강몬드의 프로그래밍 이야기

Visualizing and Understanding Convolutional Networks, Matthew D. Zeiler and Rob Fergus,ECCV2014요즘 이미지 분류기에서 주목받고 있는 컨볼루션 네트워크의 이해를 돕기 위해 신경망 내부를 시각적으로 볼 수 있게끔 많은 연구가 이뤄졌다. 여기서 몇 가지 접근들을 살펴보자.Visualizing the activations and first-layer weightsLayer Activations. 가장 간단하게 신경망의 forward pass를 시각화할 수 있다. 처음 ReLU(Rectified Linear Unit) 함수를 거친 작업들은 대게 값이 얼룩지거나 빽빽하다. 그러나 학습이 진행되면서부터 값들이 드물어지고(이미지에서 흰 영역이 ..