CNN

Convolution

• input data에 대해 일제적으로 고정된 크기의 kernal을 적용
• kernal은 정의역 내에서 움직여도 변하지 않음(translation invariant)
• 주어진 signal(입력)에 대해 국소적으로 적용(locality)

2D conv

input : 30x30, kernal : 3x3 일 시 -> output : (30-3+1)x(30-3+1)

채널이 여러개인 경우 input과  kernal의 채널 수가 같아야 함

커널이 n개 있다면 output의 채널도 n개

 

Convolution backpropagation

• 역전파 단계에서도 커널을 통해 gradient가 전달된다
• 연속적, 이산적일 때 동일