IT/AI, ๋ฅ๋ฌ๋35 ๋ฅ๋ฌ๋ ๋ชจ๋ฉํ (Momentum) ์์ ์ ๋ฆฌ - ๊ฐ๋ , ์๋ฆฌ, ์์, ์ค์ ์ ์ฉ ๋ฅ๋ฌ๋ ๋ชจ๋ฉํ (Momentum) ์์ ์ ๋ฆฌ - ๊ฐ๋ , ์๋ฆฌ, ์์, ์ค์ ์ ์ฉ๐ ๋ชฉ์ฐจ1. ๋ชจ๋ฉํ ์ด๋ ๋ฌด์์ธ๊ฐ? - 1-1. ๊ธฐ๋ณธ ๊ฒฝ์ฌํ๊ฐ๋ฒ์ ํ๊ณ - 1-2. ๋ชจ๋ฉํ ์ ์ ์์ ๊ฐ๋ 2. ๋ชจ๋ฉํ ์ ์์๊ณผ ์๋ ์๋ฆฌ - 2-1. ์์์ผ๋ก ์ดํดํ๋ ๋ชจ๋ฉํ - 2-2. ์๊ฐ์ ์ผ๋ก ์ดํดํ๊ธฐ 3. ๋ชจ๋ฉํ ์ ์ฅ์ ๊ณผ ํจ๊ณผ - 3-1. ์ง๋ ๊ฐ์์ ๋น ๋ฅธ ์๋ ด - 3-2. ์ค์ ์ฌ๋ก์ ํจ๊ณผ ๋ถ์ 4. ์ค์ ์์์ ๋ชจ๋ฉํ ํ์ฉ - 4-1. ํ์ดํผํ๋ผ๋ฏธํฐ ์ค์ - 4-2. Nesterov Momentum 5. ์ ๋ฆฌ ๋ฐ ๋ง๋ฌด๋ฆฌ1. ๋ชจ๋ฉํ ์ด๋ ๋ฌด์์ธ๊ฐ?1-1. ๊ธฐ๋ณธ ๊ฒฝ์ฌํ๊ฐ๋ฒ์ ํ๊ณ๋ฅ๋ฌ๋์์ ๊ฐ์ฅ ๊ธฐ๋ณธ์ ์ธ ํ์ต ๋ฐฉ๋ฒ์ ๊ฒฝ์ฌํ๊ฐ๋ฒ(Gradient Descent)์ ๋๋ค. ํ์ง๋ง ์ด ๋ฐฉ์์ ์์ค ํจ์์ ํํ๊ฐ ๋ณต์กํ๊ฑฐ๋ ๊ตด๊ณก์ด ์ฌํ .. 2025. 4. 2. ์ง๋ํ์ต ๋ฌธ์ , ํ๊ท์ผ? ๋ถ๋ฅ์ผ? ๋ชจ๋ธ ์ ํ๋ฒ๊น์ง ์๋ฒฝ ๊ฐ์ด๋ ๋จธ์ ๋ฌ๋์์ ๊ฐ์ฅ ๋จผ์ ๋ง์ฃผ์น๋ ์ง๋ฌธ์ด ์์ต๋๋ค. "์ด ๋ฌธ์ ๋ ํ๊ท์ธ๊ฐ์? ๋ถ๋ฅ์ธ๊ฐ์?" ์ง๋ํ์ต(Supervised Learning)์ ํฌ๊ฒ ํ๊ท(Regression)์ ๋ถ๋ฅ(Classification) ๋ ๊ฐ์ง๋ก ๋๋๋ฉฐ, ๋ฌธ์ ์ ๋ชฉํ์ ๋ฐ๋ผ ์ ํํด์ผ ํ ๋ชจ๋ธ๋ ๋ฌ๋ผ์ง๋๋ค. ์ด๋ฒ ๊ธ์์๋ ํ๊ท์ ๋ถ๋ฅ ๋ฌธ์ ์ ์ฐจ์ด๋ฅผ ์ดํดํ๊ณ , ๊ฐ ๋ฌธ์ ์ ์ด๋ค ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ด ์ ํฉํ์ง ํ๋์ ์ ๋ฆฌํด๋ณด๊ฒ ์ต๋๋ค.๐ ๋ชฉ์ฐจ1. ์ง๋ํ์ต์ด๋ ๋ฌด์์ธ๊ฐ?2. ํ๊ท ๋ฌธ์ ๋?3. ๋ถ๋ฅ ๋ฌธ์ ๋?4. ๋ฌธ์ ์ ํ์ ๋ฐ๋ฅธ ๋ชจ๋ธ ์ ํ ๊ฐ์ด๋5. ๋ง๋ฌด๋ฆฌ ๋ฐ ์์ฝ1. ์ง๋ํ์ต์ด๋ ๋ฌด์์ธ๊ฐ?์ง๋ํ์ต(Supervised Learning)์ ์ ๋ ฅ ๋ฐ์ดํฐ์ ์ ๋ต(Label)์ด ํจ๊ป ์ฃผ์ด์ง๋ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ชจ๋ธ์ ํ์ต์ํค๋ ๋ฐฉ์์ ๋๋ค. ๋ชฉํ๋ ์๋ก์ด ์ .. 2025. 4. 1. ๋น์ง๋ํ์ต ์๋ฒฝ ์ดํด: ๋ผ๋ฒจ ์์ด ๋ฐฐ์ฐ๋ ์ธ๊ณต์ง๋ฅ์ ํต์ฌ ๐ ๋ชฉ์ฐจ1. ๋น์ง๋ ํ์ต์ด๋ ๋ฌด์์ธ๊ฐ?1-1. ๋น์ง๋ ํ์ต์ ์ ์1-2. ์ง๋ ํ์ต๊ณผ์ ์ฐจ์ด์ 2. ๋น์ง๋ ํ์ต์ ์ฃผ์ ์๊ณ ๋ฆฌ์ฆ2-1. ํด๋ฌ์คํฐ๋ง (K-means, DBSCAN ๋ฑ)2-2. ์ฐจ์ ์ถ์ (PCA, t-SNE ๋ฑ)2-3. ์คํ ์ธ์ฝ๋์ ์ ๊ฒฝ๋ง ๊ธฐ๋ฐ ๋ฐฉ๋ฒ3. ๋น์ง๋ ํ์ต์ ํ์ฉ ์ฌ๋ก3-1. ์ด์ ํ์ง ๋ฐ ํจํด ๋ถ์3-2. ์ถ์ฒ ์์คํ 4. ๋น์ง๋ ํ์ต์ ์ํ ์ค์ ํ4-1. ์ ์ฒ๋ฆฌ ๋ฐ ํผ์ฒ ์ค์ผ์ผ๋ง ์ค์์ฑ4-2. ์๊ณ ๋ฆฌ์ฆ ์ ํ ๊ธฐ์ค5. ๋ง๋ฌด๋ฆฌ ๋ฐ ์์ฝ1. ๋น์ง๋ ํ์ต์ด๋ ๋ฌด์์ธ๊ฐ?1-1. ๋น์ง๋ ํ์ต์ ์ ์๋จธ์ ๋ฌ๋์์ ๊ฐ์ฅ ํฅ๋ฏธ๋ก์ด ์์ญ ์ค ํ๋๋ ๋ฐ๋ก ๋น์ง๋ ํ์ต(Unsupervised Learning)์ ๋๋ค. ๋น์ง๋ ํ์ต์ ์ง๋ ํ์ต์ฒ๋ผ ๋ฐ์ดํฐ์ '์ ๋ต'์ด ์ฃผ์ด์ง์ง ์๋ ๋ฐฉ์์ผ๋ก, ์๊ณ ๋ฆฌ์ฆ์ด .. 2025. 4. 1. ์ ๊ฒฝ๋ง์์ ํ์ฑํ ํจ์๋? ์ข ๋ฅ, ์ญํ , ์ ํ ๊ธฐ์ค๊น์ง ํ ๋ฒ์ ์ ๋ฆฌ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์์ ์ ๋ ฅ์ด ๊ณ์ฐ์ ๊ฑฐ์ณ ์ ๋ฌ๋๋ ๊ณผ์ ์ค, ๊ฐ์ฅ ์ค์ํ ์์ ์ค ํ๋๊ฐ ๋ฐ๋ก ํ์ฑํ ํจ์(Activation Function)์ ๋๋ค. ๋จ์ํ ์ ํ ์ฐ์ฐ๋ง์ผ๋ก๋ ๋ณต์กํ ๋ฌธ์ ๋ฅผ ํ ์ ์๊ธฐ ๋๋ฌธ์, ์ ๊ฒฝ๋ง์ ํ์ฑํ ํจ์๋ฅผ ํตํด ๋น์ ํ์ฑ(Non-linearity)์ ๋ถ์ฌํฉ๋๋ค. ์ด๋ฒ ๊ธ์์๋ ํ์ฑํ ํจ์์ ๊ฐ๋ ๊ณผ ์ญํ , ๊ทธ๋ฆฌ๊ณ ์ฃผ์ ํจ์๋ค์ ํน์ฑ๊ณผ ์ฌ์ฉ์ฒ๋ฅผ ์ ๋ฆฌํด๋ณด๊ฒ ์ต๋๋ค.๐ ๋ชฉ์ฐจ1. ํ์ฑํ ํจ์๋?2. ํ์ฑํ ํจ์๊ฐ ํ์ํ ์ด์ 3. ๋ํ์ ์ธ ํ์ฑํ ํจ์ ์ข ๋ฅ4. ํจ์๋ณ ๋น๊ต ๋ฐ ํน์ง ์ ๋ฆฌ5. ๋ง๋ฌด๋ฆฌ ์์ฝ1. ํ์ฑํ ํจ์๋?ํ์ฑํ ํจ์(Activation Function)๋ ์ธ๊ณต ์ ๊ฒฝ๋ง์์ ๊ฐ ๋ด๋ฐ์ ์ถ๋ ฅ๊ฐ์ ๊ฒฐ์ ์ง๋ ํจ์์ ๋๋ค. ๋ ธ๋์ ์ ๋ ฅ๋ ๊ฐ์ด ๋จ์ ์ ํ ๊ณ์ฐ์ ๋์ด์ **๋ณต์กํ ๋น์ ํ ๊ด.. 2025. 3. 31. AI๋ฅ๋ฌ๋ ์ฑ๋ฅ์ ๋์ด๋ ๋ฐ์ดํฐ์ ์ ๋ชจ๋ ๊ฒ์ด๋? ๋ฐ์ดํฐ์ ์ด๋ ๋ฌด์์ธ๊ฐ?์ฌ๋ฌ๋ถ, ๋ฅ๋ฌ๋ ๊ณต๋ถํ๋ค ๋ณด๋ฉด '๋ฐ์ดํฐ์ '์ด๋ผ๋ ๋ง์ ์ ๋ง ์์ฃผ ๋ฃ๊ฒ ๋ฉ๋๋ค. ๋ฐ์ดํฐ์ (Dataset)์ด๋ ๋ง ๊ทธ๋๋ก '๋ฐ์ดํฐ๋ค์ ์งํฉ'์ด์์. ๋ง์ด ์ด๋ ต์ง, ๊ทธ๋ฅ ๋จธ์ ๋ฌ๋์ด๋ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ด ํ์ตํ๊ฑฐ๋ ํ๊ฐํ ๋ ์ฌ์ฉํ๋ ๋ฐ์ดํฐ ๋ชจ์์ด๋ผ๊ณ ๋ณด๋ฉด ๋ผ์. ์ฝ๊ฒ ์๋ฅผ ๋ค์ด๋ณผ๊น์? ํ์์ด ์ํ๊ณต๋ถ๋ฅผ ํ ๋ ๋ฌธ์ ์ง์ ํ์์์. ์ฌ๊ธฐ์ ๋ฌธ์ ์ง์ด ๋ฐ๋ก ๋ฐ์ดํฐ์ ์ด๋ผ๊ณ ์๊ฐํ๋ฉด ์ดํด๊ฐ ์ ๋์ค ๊ฑฐ์์. ๋ฌธ์ ๋ฅผ ํ๋ฉฐ ๊ณต๋ถ(ํ์ต)๋ฅผ ํ๊ณ , ๋ชจ์๊ณ ์ฌ(๊ฒ์ฆ)๋ฅผ ๋ณด๋ฉด์ ์ค๋ ฅ์ ์ฒดํฌํ๊ณ , ๋ง์ง๋ง์ผ๋ก ์ํ(ํ ์คํธ)์ ์น๋ ๊ฑฐ์ฃ !๋ฐ์ดํฐ์ ์ ์ข ๋ฅ: ํ์ต, ๊ฒ์ฆ, ํ ์คํธ๋จธ์ ๋ฌ๋๊ณผ ๋ฅ๋ฌ๋์์๋ ๋ฐ์ดํฐ๋ฅผ ํ ๊ฐ์ง๋ก๋ง ์ฌ์ฉํ์ง ์์์. **์ด ์ธ ๊ฐ์ง ๋ฐ์ดํฐ์ **์ผ๋ก ๋๋ ์ ์ฌ์ฉํด์.๋ฐ์ดํฐ์ ์ข ๋ฅ์ค๋ช ์์ํธ๋ ์ด๋ ๋ฐ์ดํฐ์ ๋ชจ.. 2025. 3. 30. ํ๊ธฐ์ ๊ฒฝ๋ง์ ์จ์ ์์ : ํธํฅ ๋ ธ๋(Bias Node)๋ ๋ฌด์์ธ๊ฐ ์ ๊ฒฝ๋ง(Neural Network)์ ํ์ตํ๋ค ๋ณด๋ฉด ์์ฃผ ๋ฑ์ฅํ๋ ์ฉ์ด ์ค ํ๋๊ฐ ๋ฐ๋ก ํธํฅ(Bias)์ ๋๋ค. ์ฒ์์๋ ‘์ ๊ผญ ํ์ํ๊ฐ?’ ๋๋ ‘์ด๋์ ์์นํ๋๊ฐ?’ ํ๋ ์๋ฌธ์ด ๋ค ์ ์์ฃ . ์ด๋ฒ ๊ธ์์๋ **ํธํฅ ๋ ธ๋๋ ๋ฌด์์ธ์ง**, ๊ทธ๋ฆฌ๊ณ **์ ๋ ฅ์ธต, ์๋์ธต, ์ถ๋ ฅ์ธต ์ด๋์ ์กด์ฌํ๋ฉฐ**, ์ ๊ฒฝ๋ง์์ ์ด๋ค ์ญํ ์ ํ๋์ง๋ฅผ ์์ฃผ ์ฝ๊ฒ ์ค๋ช ํด๋๋ฆฌ๊ฒ ์ต๋๋ค.๐ ๋ชฉ์ฐจ1. ํธํฅ(Bias)์ด๋ ๋ฌด์์ธ๊ฐ?2. ํธํฅ์ ์ ํ์ํ๊ฐ?3. ํธํฅ์ ์ด๋์ ์กด์ฌํ๋๊ฐ?4. ์์์ผ๋ก ๋ณธ ํธํฅ์ ์ญํ 5. ๋ง๋ฌด๋ฆฌ ์์ฝ1. ํธํฅ(Bias)์ด๋ ๋ฌด์์ธ๊ฐ?ํธํฅ(Bias)์ ์ ๊ฒฝ๋ง์ ๊ฐ ๋ ธ๋์์ ๊ณ์ฐ๋ ๊ฒฐ๊ณผ๊ฐ์ ์ถ๊ฐ๋๋ ์์๊ฐ์ ๋๋ค. ์ด๋ ์ ๋ ฅ ๋ฐ์ดํฐ๊ฐ 0์ด๋๋ผ๋ **์ถ๋ ฅ์ ์ํฅ์ ์ค ์ ์๊ฒ ํด์ฃผ๋ ์กฐ์ ์ญํ **์ ํฉ๋๋ค.์ฆ, .. 2025. 3. 29. ์ด์ 1 2 3 4 5 6 ๋ค์