인공 신경망의 학습 원리

인공 신경망의 오차 구하는 법

1. 이진 분류 문제

예측 값과 결과 값이 동일하다면 오차 0, 그렇지 않다면 오차값이 발생하도록 하여 계산

 

2. 다중 분류 문제

A, B, C로 분류해야 할 때, 정답은 A인데 A일 확률 30%, B일 확률 60%, C일 확률 10%이라면 B에서의 오찻값 300, C에서의 오차값 50 과 같이 준다.

 

3. 특정한 값 예측(회귀 문제)

정답값과 예측 값의 차이를 구한 후, 이 값들을 모두 더하면 인공지능의 오차값이 된다.

오차값을 계산한 후, 다음 번에는 오차값이 줄어들도록 인공지능을 학습시킨다.

여러 번 학습시켜 이 값을 줄이는 것이 핵심

---

오차 줄이는 법

1. 경사 하강법

 기울기를 보고 기울기가 줄어드는 쪽으로 가중치 값을 이동

 가중치에 따라 신호 세기가 바뀌고, 그에 따라 결과 값이 결정된다.

 인공지능의 학습 = 가중치를 적절하게 수행하는 과정

 오차를 줄이기 위해서는 가장 오차가 작은 지점으로 가중치를 이동해야 한다.

 

2. 오차 역전파법

 인공 신경망을 설계하면 가중치의 값이 너무 많을 것이다.

 오차 역전파법(Back Propagation): 오차를 끝에서부터 거꾸로 가면서 줄이는 방식

 마지막부터 처음까지 되돌아가면서 경사 하강법을 사용하여 각 가중치 값을 수정한다.

 결과값과 정답값의 오차값을 구하고 오차값에 따라 가중치를 수정해나가는 과정을 반복하면서 오차를 0으로 줄인다.