Attibution Method에 대하여

딥러닝 모델이 어느 부분을 보고 판단하는지 알 수 있는 Attribution Method에 대한 포스팅입니다. 영국의 Odin-Vision이라는 회사의 기술을 연구하다가 알게된 내용들 입니다. 급하게 작성하느라 제대로 정리되지 않았습니다 ㅠㅠ Attribution Methods란? Attribution Methods (AMs)는 CNN기반의 모델 예측에 기여하는 요소들을 수치화(스칼라화)해 설명력을 높이기 위한 작업입니다. 이를 다음과 같이 분류할 수 있습니다. AM의 접근 방식 input의 feature에 따라: initial input이 output에 미치는 영향을 탐구 모델의 구성 요소 (ex. 특정 레이어)에 따라: 특정 layer의 activation을 탐구 AM의 attribution 추출 방..