๋ฐ์ดํฐ ๊ณผํ4 ๋ชจ๋ธ๋ง๊ณผ ํต๊ณ์์์ '์์ ๋(Degree of freedom)' ์๋ฒฝ ์ดํดํ๊ธฐ ๋ชจ๋ธ์ด ๋ณต์กํ๋ฉด ํญ์ ์ข์ ๊ฑธ๊น์? ์์ ๋๊ฐ ๋์์๋ก ๊ณผ์ฐ ๋ ์ข์ ๊ฒฐ๊ณผ๋ฅผ ๊ฐ์ ธ์ฌ๊น์?์๋ ํ์ธ์, ์ฌ๋ฌ๋ถ! ์ค๋์ ์ ๊ฐ ์์ฆ ๋ฐ์ดํฐ ๋ถ์ ๊ณต๋ถ๋ฅผ ํ๋ฉด์ ๊ฐ์ฅ ํฅ๋ฏธ๋กญ๊ฒ ๋๋ ์ฃผ์ ์ค ํ๋์ธ '์์ ๋(Degree of Freedom)'์ ๋ํด ์ด์ผ๊ธฐํด ๋ณด๋ ค ํด์. ๋ฉฐ์น ์ ํต๊ณ ์์ ์์ ์์ ๋ ๊ฐ๋ ์ ์ฒ์ ์ ํ์ ๋, ์ด๊ฒ ๋จ์ํ ์ํ์ ๊ฐ๋ ์ด ์๋๋ผ ๋ชจ๋ธ๋ง, ๋จธ์ ๋ฌ๋, ์ฌ์ง์ด ์ผ์์ ์ธ ๋ฐ์ดํฐ ํด์์๋ ๊น๊ฒ ์ฐ๊ฒฐ๋์ด ์๋ค๋ ๊ฑธ ๊นจ๋ฌ์์ด์. ๊ทธ๋์ ์ฌ๋ฌ๋ถ๊ณผ ํจ๊ป ์ด ์ด์ผ๊ธฐ๋ฅผ ๋๋๊ณ ์ถ์ด์ก๋ต๋๋ค.๋ชฉ์ฐจ์์ ๋๋ ๋ฌด์์ธ๊ฐ? ๋ชจ๋ธ๋ง์์์ ์์ ๋: ํ๋ผ๋ฏธํฐ์์ ๊ด๊ณ ์์ ๋๊ฐ ๋์ ๋ ์๊ธฐ๋ ๊ณผ์ ํฉ ๋ฌธ์ ์์ ๋๋ฅผ ์กฐ์ ํ๋ ๋ฐฉ๋ฒ: ์ ๊ทํ ๊ธฐ๋ฒ ์ค์ ์ฌ๋ก๋ก ๋ณด๋ ์์ ๋ ์์ ๋๋ฅผ ์ดํดํ๋ฉด ๋ฌด์์ด ๋ฌ๋ผ์ง๊น?์์ ๋๋ ๋ฌด์์ธ๊ฐ?์์ .. 2025. 3. 28. ๋ฅ๋ฌ๋ ๊ท์ ํ ์์ ์ ๋ณต: ๊ณผ์ ํฉ ๋ฐฉ์ง ๊ธฐ์ ์ด์ ๋ฆฌ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ํ์ต์์ผ ๋ณด๋ฉด ํ๋ จ ์ ํ๋๋ ๋งค์ฐ ๋์๋ฐ, ์ค์ ํ ์คํธ ๋ฐ์ดํฐ์์ ์ฑ๋ฅ์ด ๋จ์ด์ง๋ ๊ฒฝํ์ ํด๋ณด์ จ์ ๊ฒ๋๋ค. ๋ฐ๋ก ๊ณผ์ ํฉ(Overfitting) ๋ฌธ์ ๋๋ฌธ์ธ๋ฐ์. ์ด๋ด ๋ ๊ผญ ํ์ํ ํด๊ฒฐ์ฑ ์ด ๋ฐ๋ก ‘๊ท์ ํ(Regularization)’์ ๋๋ค. ๊ท์ ํ๋ ๋ชจ๋ธ์ด ํ๋ จ ๋ฐ์ดํฐ์ ๊ณผ๋ํ๊ฒ ๋ง์ถฐ์ง๋ ๊ฒ์ ๋ฐฉ์งํ๊ณ , ์ผ๋ฐํ ์ฑ๋ฅ์ ๋์ด๋ ํต์ฌ ๊ธฐ๋ฒ์ ๋๋ค. ์ด ๊ธ์์๋ L1, L2 ์ ๊ทํ๋ถํฐ ๋๋กญ์์, ๋ฐฐ์น ์ ๊ทํ, ๋ฐ์ดํฐ ์ฆ๊ฐ, ์กฐ๊ธฐ ์ข ๋ฃ ๋ฑ ๋ค์ํ ๊ท์ ํ ๊ธฐ๋ฒ์ ์ค์ ์์์ ํจ๊ป ์์๋ณด๊ฒ ์ต๋๋ค.๐ ๋ชฉ์ฐจ1. ๋ฅ๋ฌ๋์์ ๊ท์ ํ๋ ๋ฌด์์ธ๊ฐ?2. ๊ณผ์ ํฉ๊ณผ ๊ท์ ํ์ ๊ด๊ณ3. ๋ํ์ ์ธ ๊ท์ ํ ๊ธฐ๋ฒ 6๊ฐ์ง4. ์ค์ ์์ ์ฝ๋๋ก ์ดํดํ๋ ๊ท์ ํ5. ๊ท์ ํ ๊ธฐ๋ฒ ๋น๊ต์ ์ ์ฉ ํ6. ๋ง๋ฌด๋ฆฌ ์์ฝ1. ๋ฅ๋ฌ๋์์ ๊ท์ ํ.. 2025. 3. 25. ๋ฅ๋ฌ๋ ์ง๋ํ์ต ์์ ์ ๋ฆฌ - ์๋ฆฌ, ์์, ์๊ณ ๋ฆฌ์ฆ๊น์ง ํ๋์! ๋ฅ๋ฌ๋ ์ง๋ํ์ต ์์ ์ ๋ฆฌ - ์๋ฆฌ, ์์, ์๊ณ ๋ฆฌ์ฆ๊น์ง ํ๋์!๐ ๋ชฉ์ฐจ1. ์ง๋ํ์ต์ด๋? - 1-1. ๊ฐ๋ ์ค๋ช - 1-2. ์ ๋ ฅ๊ณผ ์ถ๋ ฅ ์ 2. ์ง๋ํ์ต์ ์๋ ์๋ฆฌ - 2-1. ํ์ต ๊ณผ์ - 2-2. ์์ค ํจ์์ ๊ฐ์ค์น ์ ๋ฐ์ดํธ 3. ์ง๋ํ์ต์ ๋ํ์ ์์ - 3-1. ์ด๋ฏธ์ง ๋ถ๋ฅ - 3-2. ์์ฐ์ด ์ฒ๋ฆฌ - 3-3. ์์ฑ ์ธ์ ๋ฑ 4. ์ฌ์ฉ๋๋ ์๊ณ ๋ฆฌ์ฆ - 4-1. ํ๊ท์ ๋ถ๋ฅ - 4-2. CNN, RNN, Transformer 5. ์ง๋ํ์ต vs ๋ค๋ฅธ ํ์ต - 5-1. ๋น์ง๋ํ์ต๊ณผ์ ์ฐจ์ด - 5-2. ๊ฐํํ์ต๊ณผ์ ์ฐจ์ด 6. ์ง๋ํ์ต ์ํ๋ ํ 7. ๋ง๋ฌด๋ฆฌ ๋ฐ ์์ฝ1. ์ง๋ํ์ต์ด๋?1-1. ๊ฐ๋ ์ค๋ช ์ง๋ํ์ต(Supervised Learning)์ ๋จธ์ ๋ฌ๋๊ณผ ๋ฅ๋ฌ๋์์ ๊ฐ์ฅ ๊ธฐ๋ณธ์ด ๋๋ ํ์ต ๋ฐฉ์.. 2025. 3. 24. ๋ฅ๋ฌ๋์ด ๋ณต์กํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ์ด์ ์ฌ๋ฌ๋ถ, ์ ๋ฅ๋ฌ๋์ด ์ด๋ ๊ฒ ๋ณต์กํ ๋ฌธ์ ๋ฅผ ์ ํธ๋์ง ๊ถ๊ธํ์ง ์์ผ์ จ๋์? ์ค๋ ๊ทธ ๋น๋ฐ์ ์๋ ค๋๋ฆด๊ฒ์.์๋ ํ์ธ์, ์ฌ๋ฌ๋ถ! ์ต๊ทผ์ ๋จธ์ ๋ฌ๋๊ณผ ๋ฅ๋ฌ๋ ์์ ์ ๋ค์ผ๋ฉด์ "์ ๋ฅ๋ฌ๋์ด ๋ฌธ์ ๋ฅผ ๋ ์ ํธ๋๊ฐ?"๋ผ๋ ์ง๋ฌธ์ ์์ฃผ ๋ฐ๊ณค ํ์ด์. ์ ๋ ์ฒ์์๋ ๋ณต์กํ๊ฒ๋ง ๋๊ปด์ก๋๋ฐ์, ๊ณต๋ถ๋ฅผ ํ๋ค ๋ณด๋ ๊ทธ ๊ตฌ์กฐ์ ์๋ฆฌ๋ฅผ ์ดํดํ๋ฉด ๊ฝค ํฅ๋ฏธ๋กญ๋๋ผ๊ณ ์. ๊ทธ๋์ ์ค๋์ ๋ฅ๋ฌ๋์ '๋น์ ํ ํฉ์ฑ ํจ์' ๊ตฌ์กฐ๊ฐ ์ด๋ป๊ฒ ๋ณต์กํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋์ง, ๋ 'Old learning' ์๊ณ ๋ฆฌ์ฆ๊ณผ์ ์ฐจ์ด๋ ๋ฌด์์ธ์ง์ ๋ํด ์ด์ผ๊ธฐํด๋ณด๋ ค๊ณ ํฉ๋๋ค. ๊ฐ์ด ํ๋ฒ ๊น์ด ํ๊ณ ๋ค์ด๋ณผ๊น์?๋ชฉ์ฐจํฉ์ฑ ํจ์์ ๋น์ ํ์ฑ์ ๋น๋ฐ ๋ฅ๋ฌ๋๊ณผ ์์ ์ ๊ฒฝ๋ง์ ์ฐจ์ด Old learning ์๊ณ ๋ฆฌ์ฆ vs ๋ฅ๋ฌ๋ ํ๋ผ๋ฏธํฐ๊ฐ ๋ง์ ๋ชจ๋ธ์ด ์ ์ ๋ฆฌํ๊ฐ? ๊ณผ์ ํฉ ๋ฌธ์ ์ ๋ฐ์ดํฐ ์.. 2025. 3. 23. ์ด์ 1 ๋ค์