resnet

Deep Residual Learning for Image Recognition

[논문리뷰] ABSTRACT 이전의 학습 방법보다 깊은 네트워크의 학습을 좀 더 용이하게 하기 위한 프레임워크를 제시한다. Residual networks가 최적화하기 더 쉽고, Depth가 증가된 모델에서도 상당히 증가된 정확도를 얻을 수 있음을 보여준다. INTRODUCTION Is learning better networks as easy as stacking more layers? 더 나은 네트워크를 학습하는 것이 더 많은 계층을 쌓는 것만큼 쉬운가? 위 그림에서 layer가 더 깊은 빨간색이 error가 더 높은 것을 확인할 수 있다. layer가 깊어질수록 gradient가 vanishing/exploding 하는 문제가 존재한다. 이 문제는 normalized initialization, b..