wave

Convolutional Neural Networks 기존의 FC layer에서는 32 x32 x 3의 이미지를 하나의 벡터로 펼친다음에 가중치를 곱하였다. 하지만 CNN에서는 기존의 이미지 구조를 그대로 유지할 수 있다. CNN에서는 작은 필터가 가중치가 되는데, 위의 예시에서는 5x5x3의 shape를 가지는 필터가 우리의 가중치인 것이다. 이 필터를 가지고 이미지를 슬라이딩하면서 가중치와 입력을 곱(내적)하는 것이다. 이미지는 channel 을 가지는데, 필터도 이미지와 동일한 깊이의 channel을 가진다. 가령 32 x 32 x 3 의 이미지에 5x5x3의 필터를 사용하면 이미지의 가로 세로의 관점에서는 일부를 보지만 깊이는 전체를 보는 것이다. 필터는 이미지를 sliding 하면서 필터의 각 ..

3강 요약 함수 F로 classifier(network) 정의 (x : input data, W : weights, 출력 : score vector) Loss function 으로 우리의 함수 F가 얼마나 성능이 안좋은지 확인 (e.g. SVM, BCE 등...) 함수 F가 training dataset에만 fit 하는 것을 방지하기 위해(우리의 목표는 test dataset) Regularization term 추가 Loss가 가장 낮아지는 W를 찾고자 Gradient Descent 활용 Computational graphs 우리는 최종적으로 gradient 값을 자동으로 계산하기 위해 analytic gradient를 사용할 것이다. Computational graph 를 활용하여 analytic g..

Linear classifier을 정의했다면 이제는 뭘 해야할까? 우선 좋은 가중치(W)를 설정하는 것이 필요하다. 그렇다면 우리의 가중치가 좋은지 나쁘지를 어떻게 알 수 있을까? => W를 입력으로 받아서 스코어를 확인하고 우리의 W가 얼마나 좋고 나쁜지를 정량화 해주기 위한 손실함수가 필요 => 손실함수를 이용해서 Loss를 최소화 하는 최적의 W를 찾아야 함(최적화) Define a loss function that quantifies our unhappiness with the scores across the training data. 학습 데이터 전체 scores에 대해 가중치(모델)의 성능을 수치화하기 위한 loss function을 정의 Come up with a way of efficien..

Image Classification Problem A core task in Computer Vision 고양이나 강아지 트럭과 같은 이미지를 올바르게 분류하는 문제는 사람에게는 쉽지만 컴퓨터에게는 어려운 문제이다. 우리가 이미지를 바라보는 방식과 컴퓨터가 바라보는 방식에는 차이가 있다. 컴퓨터는 이미지를 픽셀이라는 단위로 읽게 된다. 우리의 이미지가 800 x 600 의 x 3 (3 : channels RGB) 크기를 가진다고 하면 컴퓨터는 800 x 600 x 3 개의 숫자 정보로 이미지를 읽는 것이다. Semantic Gap 고양이 사진을 예로 들자면, 고양이는 우리가 이미지에 부여한 semantic label 이다. 고양이라는 semantic idea와 pixel 값 (이미지 배열) 사이에는 큰..