์ธ๊ณต์ง€๋Šฅ ๐ŸŒŒ/๋”ฅ๋Ÿฌ๋‹

ํผ์…‰ํŠธ๋ก ์ด๋ž€

23.8 2022. 11. 30. 05:30
๋ฐ˜์‘ํ˜•

 

์ธ๊ณต์ง€๋Šฅ, ๋จธ์‹ ๋Ÿฌ๋‹, ๋”ฅ๋Ÿฌ๋‹์˜ ๊ด€๊ณ„

์ธ๊ณต์ง€๋Šฅ์„ ๊ตฌํ˜„ํ•˜๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ• ์ค‘ ํ•˜๋‚˜๊ฐ€ ๋”ฅ๋Ÿฌ๋‹!

 

 

๋”ฅ๋Ÿฌ๋‹์ด๋ž€

๋จธ์‹ ๋Ÿฌ๋‹์˜ ์—ฌ๋Ÿฌ ๋ฐฉ๋ฒ•๋ก  ์ค‘ ํ•˜๋‚˜๋กœ, 

์ธ๊ณต ์‹ ๊ฒฝ๋งŒ์— ๊ธฐ๋ฐ˜ํ•˜์—ฌ ์ปดํ“จํ„ฐ์—๊ฒŒ ์‚ฌ๋žŒ์˜ ์‚ฌ๊ณ ๋ฐฉ์‹์„ ๊ฐ€๋ฅด์น˜๋Š” ๋ฐฉ๋ฒ•์ด๋‹ค.

 

 

์ธ๊ณต์‹ ๊ฒฝ๋ง์ด๋ž€,

์ƒ๋ฌผํ•™์˜ ์‹ ๊ฒฝ๋ง์—์„œ ์˜๊ฐ์„ ์–ป์€ ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜์œผ๋กœ, ์‚ฌ๋žŒ์˜ ์‹ ๊ฒฝ ์‹œ์Šคํ…œ์„ ๋ชจ๋ฐฉํ•œ ๊ฒƒ์ด๋‹ค.

 

 

 

 

 

๋”ฅ๋Ÿฌ๋‹์˜ ๋ฐœ์ „ ๊ณผ์ •

 

 

1958๋…„์— Perceptron์ด ์ฒ˜์Œ ์ œ์•ˆ๋˜์—ˆ๋‹ค.

๋”ฅ๋Ÿฌ๋‹์€ 2012๋…„์— ์ด๋ฏธ์ง€๋„ท์ด๋ผ๋Š” Chanllenge๋ฅผ ํ†ตํ•ด์„œ ์ฃผ๋ชฉ๋ฐ›๊ธฐ ์‹œ์ž‘ํ•˜์˜€๋‹ค.

2012๋…„๋„์— ์ด๋ฏธ์ง€๋„ท์—์„œ GPU๋ฅผ ์‚ฌ์šฉํ•œ ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ AlexNet์ด ์ถœ์‹œ๋˜์—ˆ๋‹ค.

์ด AlexNet์€ ๊ธฐ์กด์— ์žˆ๋˜ ์ด๋ฏธ์ง€๋„ท์˜ ์ •ํ™•๋„๋ฅผ ํ•œ ์ˆœ๊ฐ€์— ๋Œ์–ด์˜ฌ๋ฆฌ๊ณ , ์ด ์‚ฌ๊ฑด์„ ๊ธฐ๋ฐ˜์œผ๋กœ ๋”ฅ๋Ÿฌ๋‹์ด ๋‹ค์‹œ ์ฃผ๋ชฉ์„ ๋ฐ›๊ธฐ ์‹œ์ž‘ํ•˜์˜€๋‹ค.

๋˜ํ•œ ์ง€๊ธˆ๊นŒ์ง€ ๋งŽ์€ ์—ฐ๊ตฌ๊ฐ€ ์ง„ํ–‰๋˜๊ณ  ์žˆ๋‹ค.

 

 

 

 

 

 

ํ˜„๋Œ€์˜ ๋‹ค์–‘ํ•œ ๋”ฅ๋Ÿฌ๋‹ ๊ธฐ์ˆ  ์ž‘์šฉ ์‚ฌ๋ก€

 

 

ํผ์…‰ํŠธ๋ก (Perceptron)

 

์‹ ๊ฒฝ๋ง ์ด์ „์˜ ์—ฐ๊ตฌ

 

์–ผ๊ตด ์ธ์‹

- ๋”ฅ๋Ÿฌ๋‹ ์ด์ „์—๋Š”, ์–ผ๊ตด ์ธ์‹ ์‹œ ๋ฐ•์Šค๋ฅผ ๊ทธ๋ฆฌ๋Š” ์‹์˜ ๋ฐฉ๋ฒ•์œผ๋กœ ์–ผ๊ตด์„ ์ธ์‹ํ•˜์˜€๋‹ค.

- ๋ฐ•์Šค๋ฅผ ํ†ตํ•ด์„œ ์ด๋งˆ, ๋ˆˆ, ์ฝ”, ์ž…์„ ์ธ์‹ํ•จ์œผ๋กœ์จ ์–ผ๊ตด์ž„์„ ํŒ๋ณ„ํ•˜์˜€๋‹ค.

 

 

์ˆซ์ž ๋ฐ ๋ฌธ์ž ์ธ์‹

- ๊ธฐ์กด์—๋Š” 9๋ผ๋Š” ์ˆซ์ž๋ฅผ ์ธ์‹ํ•˜๊ณ  ์‹ถ์„๋•Œ, ์šฐ์ธก์— |์ด ์žˆ๊ณ , ์ขŒ์ธก์— o๊ฐ€ ์žˆ์Œ์„ ๊ธฐ์ค€์œผ๋กœ

์ผ์ข…์˜ ๊ทœ์น™์„ ์ •ํ•œ๋‹ค์Œ์— ๊ทธ ๊ทœ์น™์— ๋ถ€ํ•ฉํ•˜๋Š”์ง€ ์—ฌ๋ถ€๋กœ ์ˆซ์ž๋ฅผ ํŒ๋ณ„ํ•˜์˜€๋‹ค.

 

์ฆ‰, ์‚ฌ๋žŒ์ด ์ง์ ‘ ํŒจํ„ด์„ ํŒŒ์•…ํ•˜๊ณ  ๋ฐ์ดํ„ฐ์˜ ํŠน์„ฑ์„ ๋ชจ๋ธ์— ์ž…๋ ฅํ•ด์ค˜์•ผ ํ–ˆ๋‹ค.

ํ•˜์ง€๋งŒ ์ธ๊ณต์ง€๋Šฅ์˜ ์‹ ๊ฒฝ๋ง์€ ํŒจํ„ด์„ ๋”ฐ๋กœ ์ž…๋ ฅํ•ด ์ฃผ์ง€ ์•Š๊ณ  ์Šค์Šค๋กœ ํŒจํ„ด์„ ํŒŒ์•…ํ•œ๋‹ค.

 

 

 

 

1985๋…„ ์ดˆ๊ธฐ ์‹ ๊ฒฝ๋ง ํผ์…‰ํŠธ๋ก ์˜ ๋“ฑ์žฅ

 

ํผ์„ผํŠธ๋ก ์€ ๋”ฅ๋Ÿฌ๋‹์˜ ๊ฐ€์žฅ ๊ธฐ๋ณธ์ ์ธ ๋‹จ์œ„๋ผ๊ณ  ๋ณผ ์ˆ˜ ์žˆ๋‹ค.

์ด ๊ฐ€์žฅ ๊ธฐ๋ณธ์ ์ธ ๋‹จ์œ„๋งŒ์œผ๋กœ ๋ถ„๋ฅ˜๋‚˜ ํšŒ๊ท€๊ฐ€ ๊ฐ€๋Šฅํ•˜๋‹ค.

 

 

 

 

 

์ดˆ๊ธฐ ํ˜•ํƒœ์˜ ์‹ ๊ฒฝ๋ง, ํผ์…‰ํŠธ๋ก 

์‚ฌ๋žŒ์˜ ์‹ ๊ฒฝ์„ธํฌ์—๋Š” Inputs๊ณผ Outputs์ด ์žˆ๋‹ค.

Input์—๋Š” ๋‹ค๋ฅธ ์‹ ๊ฒฝ ์„ธํฌ๋กœ ๋ถ€ํ„ฐ ์‹ ํ˜ธ๊ฐ€ ๋“ค์–ด์˜จ๋‹ค.

์ด ์‹ ํ˜ธ๊ฐ€ ๋“ค์–ด์˜ค๋Š” ๊ณณ์—๋Š” x1๋ถ€ํ„ฐ xn๊นŒ์ง€ n๊ฐœ์˜ ์‹ ํ˜ธ๊ฐ€ ๋“ค์–ด์™€ ํ•˜๋‚˜๋กœ ํ•ฉ์ณ์ง„๋‹ค.

์ดํ›„ ๋‹ค์‹œ Outputs์œผ๋กœ ์ „๋‹ฌ์ด ๋˜์–ด n๊ฐœ์˜ ์‹ ํ˜ธ๋กœ ๋‹ค์‹œ ์ „๋‹ฌ์ด ๋œ๋‹ค.

 

์ด๋Ÿฌํ•œ ์‚ฌ๋žŒ์˜ ์‹ ๊ฒฝ์„ธํฌ๋ฅผ ๋ณธ๋”ฐ ๋งŒ๋“ ๊ฒƒ์ด ํผ์…‰ํŠธ๋ก ์ด๋‹ค.

ํผ์…‰ํŠธ๋ก ์˜ ์šฐ์ธก์—๋Š” inputs์ด ์žˆ๊ณ , 

์ค‘๊ฐ„ ๋ถ€๋ถ„์—๋Š” inputs๋“ค์ด ํ•ฉ์ณ์ง€๋Š” ๋ถ€๋ถ„์ด ์žˆ์œผ๋ฉฐ,

๋งˆ์ง€๋ง‰์—๋Š” output์ด ์žˆ๋‹ค.

 

 

ํผ์…‰ํŠธ๋ก ์˜ ๊ธฐ๋ณธ ๊ตฌ์กฐ

 

 

ํผ์…‰ํŠธ๋ก ์€ ์—ฌ๋Ÿฌ๊ฐœ์˜ ์ž…๋ ฅ์„ ๋ฐ›์•„ ์ด์ง„๋ถ„๋ฅ˜ํ•˜๋Š” ๊ตฌ์กฐ์ด๋‹ค.

 

์šฐ์ธก ์ž…๋ ฅ ๋ถ€๋ถ„์—๋Š” n๊ฐœ์˜ ๋ณ€์ˆ˜๊ฐ€ ๋“ค์–ด์˜จ๋‹ค.

์˜ˆ์ œ์—๋Š” ๋‘ ๊ฐœ์˜ ์ž…๋ ฅ์ด ์žˆ๋‹ค.

x1, x2 ๋‘ ๊ฐœ์˜ ์‹ ํ˜ธ์— ๋Œ€ํ•œ ๊ฐ€์ค‘์น˜ w1, w2๊ฐ€ ์ƒ์„ฑ๋œ๋‹ค.

๊ฐ€์ค‘์น˜๋Š” ๋“ค์–ด์˜ค๋Š” ์‹ ํ˜ธ๋ฅผ ์–ผ๋งŒํผ ์ฆํญ์‹œ์ผœ์ค„์ง€๋ฅผ ๊ฒฐ์ •ํ•œ๋‹ค.

w0๋Š” Bias๋กœ, ์ž…๋ ฅ ํ•˜๋Š” ๊ฐ’์— ์ƒ๊ด€์—†์ด ๋ฌด์กฐ๊ฑด ์ž…๋ ฅ๋˜๋Š” ๊ฐ’์ด๋‹ค. (x์— ์–ด๋– ํ•œ ์ˆ˜๊ฐ€ ๋“ค์–ด์˜ค๋“ , ๋ฌด์กฐ๊ฑด ๋“ค์–ด์˜ค๋Š” ๊ฐ’.)

 

์ด๋Ÿฌํ•œ w0, w1x1, w2x2๊ฐ€ ๋”ํ•ด์ง„ ๊ฒƒ์ด ์ค‘๊ฐ„ Summatino๋ถ€๋ถ„.

๋งˆ์ง€๋ง‰์œผ๋กœ ํ™œ์„ฑํ™” ํ•จ์ˆ˜๋ฅผ ๊ฑฐ์ณ์•ผ ์ตœ์ข… y๊ฐ’์„ ์–ป์„ ์ˆ˜ ์žˆ๋‹ค.

 

 

 

 

ํ™œ์„ฑํ™” ํ•จ์ˆ˜

๋“ค์–ด์˜ค๋Š” x๊ฐ€ 0๋ณด๋‹ค ํฌ๊ฑฐ๋‚˜ ๊ฐ™์œผ๋ฉด 1๋กœ ๋งŒ๋“ค๊ณ ,

0๋ณด๋‹ค ์ž‘์œผ๋ฉด 0์ด ๋‚˜์˜จ๋‹ค.

 

 

 

ํผ์…‰ํŠธ๋ก  ๋™์ž‘ ์˜ˆ์‹œ

 

 

x1์— ๋Œ€ํ•œ ์ž…๋ ฅ์ด 1, x2์— ๋Œ€ํ•œ ์ž…๋ ฅ์ด 0์ด๊ณ  w1์€ 2, w2๋Š” 1, w0์€ -0.5์ผ ๋•Œ

activatino output์€ 1์ด ๋œ๋‹ค.

 

 

 

 

 

 

์˜ค๋Š˜ ๋‚˜์˜จ ์‹ ์ž‘ ๋“œ๋ผ๋งˆ์ˆ˜์™€ ํ™•๋ณดํ•œ ์—ฌ๊ฐ€ ์‹œ๊ฐ„์„ ๊ธฐ์ค€์œผ๋กœ, ํ•™์Šต ์—ฌ๋ถ€๋ฅผ ์˜ˆ์ธกํ•ด๋ณด์ž.

 

 

 

 

 

w0 : ์˜์ง€

w1 : ์‹ ์ž‘ ๋“œ๋ผ๋งˆ์˜ ์˜ํ–ฅ

w2 : ์—ฌ๊ฐ€์‹œ๊ฐ„ ํ•™์Šต

 

์‹ ์ž‘์ด 7๊ฐœ ๋‚˜์˜ค๊ณ , ์—ฌ๊ฐ€ ์‹œ๊ฐ„์ด 1๋งŒํผ ์žˆ์„ ๋•Œ๋Š”

-5 + (-7) + 5 = -7์ด๊ณ  ์‹œ๊ทธ๋ชจ์ด๋“œ ํ•จ์ˆ˜์— ์˜ํ•ด 0์ด ์ถœ๋ ฅ๋œ๋‹ค.

์ฆ‰, ํ•™์Šต์„ ์•ˆ ํ–ˆ์„ ๊ฒƒ์ด๋ผ๊ณ  ์˜ˆ์ธกํ•œ ๊ฒƒ์ด๋‹ค.

 

 

 

 

์ง์„  ์œ„๋Š” 1์ด ๋‚˜์˜ค๊ณ , ์•„๋ž˜๋Š” 0์ด ๋‚˜์˜จ๋‹ค.

์ฆ‰ 0๊ณผ 1์ด ๋‚˜์˜ค๋Š” ๊ตฌ๊ฐ„์„ ๊ตฌ๋ถ„์ง“๋Š”๊ฒƒ์ด ๋ฐ”๋กœ ์ง์„ ์ด๊ณ ,

์ด ์ง์„ ์„ ์ž˜ ๊ตฌํ•˜๋Š” ๊ฒƒ์ด ํผ์…‰ํŠธ๋ก ์„ ์–ผ๋งˆ๋‚˜ ์ž˜ ๊ตฌํ˜„ํ–ˆ๋ƒ๋ฅผ ์˜๋ฏธ.

 

 

 

 

 

ํผ์…‰ํŠธ๋ก ์„ ํ™œ์šฉํ•œ ์„ ํ˜• ๋ถ„๋ฅ˜๊ธฐ

 

ํผ์„ผํŠธ๋ก ์€ ์„ ํ˜• ๋ถ„๋ฅ˜๊ธฐ๋กœ์จ, ๋ฐ์ดํ„ฐ๋ฅผ ๋ถ„๋ฅ˜ํ•  ์ˆ˜ ์žˆ๋‹ค.

์„ ์„ ํ†ตํ•ด์„œ ๋ถ„๋ฅ˜ํ•ด์„œ ์„ ํ˜• ๋ถ„๋ฅ˜๊ธฐ๋ผ๊ณ  ๋ถ€๋ฅธ๋‹ค.

ํ•ด๋‹น ์ด๋ฏธ์ง€ ์ฒ˜๋Ÿผ ๊ฐ•์•„์ง€์™€ ๊ณ ์–‘์ด๋ฅผ ์„ ์œผ๋กœ ๋ถ„๋ฅ˜ํ•  ์ˆ˜ ์žˆ๋‹ค.

 

 

 

 

 

ํ•˜์ง€๋งŒ, ์ด์™€ ๊ฐ™์ด ํ•˜๋‚˜์˜ ์„ ๋งŒ์œผ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ๋ถ„๋ฅ˜ํ•  ์ˆ˜ ์—†๋Š” ๊ฒฝ์šฐ๊ฐ€ ์žˆ๋‹ค.

 

728x90
๋ฐ˜์‘ํ˜•