합성곱 신경망 | Max Pooling

Pooling

Pooling은 세로, 가로 방향의 공간을 줄이는 연산이다.

 

Max Pooling의 경우 아래와 같이 연산이 이루어진다.

2x2 크기의 Max Pool은  2x2 크기의 영역에서 가장 큰 원소를 하나 꺼낸다.

stride는 2이므로 2칸씩 이동하며 처리를 한다. 일반적으로 윈도우 크기와 스트라이드는 같은 값으로 설정한다.

 

풀링 계층의 특징

학습해야 할 매개변수가 없다.

최댓값이나 평균을 취하는 명확한 처리이므로 특별히 학습할 것이 없다.

 

채널 수가 변하지 않는다.

위의 Max Pooling 연산을 보면 채널마다 독립적으로 계산하여 채널 수가 변하지 않는다는 것을 볼 수 있다.

입력 데이터 : N x C x H x W

출력 데이터 : N x C x OH x OW

 

Down Sampling 을 통하여 다음 합성곱 층에서 더 빨리 글로벌한 특징을 찾아낼 수 있게 한다.

 

파라미터 숫자를 줄여서 계산 비용을 줄이고 overfitting을 억제한다.

 

약간의 평행이동에 대하여 변하지 않도록 한다.

 

입력의 변화에 영향을 적게 받는다.

입력 데이터가 조금 변해도 풀링의 결과는 잘 변하지 않는다.

 

실제 이미지에 풀링 연산

Pooling의 크기가 클수록 해상도가 낮아진다.

 

 

 

 

이미지 출처 : https://sites.google.com/site/kyunghoonhan/deep-learning-ii?authuser=0