Deep Learning
CNN의 parameter 개수와 tensor 사이즈 계산
더보기 https://seongkyun.github.io/study/2019/01/25/num_of_parameters/ 위 포스팅을 요약한 글이다. AlexNet의 구조 Input: 227*273*3 크기의 컬러 이미지. Conv-1: 11*11 크기의 커널 96개, stride=4, padding=0 MaxPool-1: stride 2, 3*3 max pooling layer Conv-2: 5*5 크기의 커널 256개, stride=1, padding=2 MaxPool-2: stride 2, 3*3 max pooling layer Conv-3: 3*3 크기의 커널 384개, stride=1, padding=1 Conv-4: 3*3 크기의 커널 384개, stride=1, padding=1 Conv-5..
Neural Additive Models: Interpretable Machine Learning with Neural Nets 논문 리뷰
논문 : https://arxiv.org/pdf/2004.13912.pdf 0. Abstract DNN(Deep neural network)은 인상적인 성능을 내지만 어떻게 결정을 내리는지 대게 불분명한 black-box predictor 이다. 이러한 성격 때문에 의료(healthcare) 분야와 같이 위험부담이 큰 영역에 대한 적용을 방해한다. 따라서 본 논문은 DNN의 표현성(expressivity)과 *일반화 가법모델(Generalized Additive Models)의 고유한 해석성(inherent intelligibility)을 결합한 NAM(Neural Addition Models)를 제안한다. NAM은 각각의 single input feature를 처리하는 신경망의 선형 결합(linear ..