Summary
inception module. 즉, ensenble 개념을 도입하려는 시도.
Question
naive하게 구현하면, ourput 한 결과를 concat할 때, filter의 개수가 너무 많아져서 computation이 많이 필요하고, 이를 줄이기 위해 1x1 convolution(size kept, dimension reduced) 를 사용하여 연결.
- 이때, 1x1 conv를 bottleneck layer라고 함.
- 너무 깊어지면, vanishing gradient. 이를 해결하기 위해 중간에서 나온 outputs에서도 loss 계산하여 gradient flow를 확보.