티스토리 뷰
[Paper Review] Distilled Gradient Aggregation:Purify Features for Input Attributionin the Deep Neural Network
devim 2023. 5. 30. 12:31요약: 설명가능 인공지능
기술: DGA
이미지 분류에 대해 자주, 널리 사용되는 오픈데이터셋 ImageNet과 분류모델 VGG-16, ResNet-18, Inception-V3를 사용하여 이미지를 분류한 뒤
다른 베이스라인 모(Gradient*Input (G*I), Guided BackPropagation (GBP), Integrated Gradients (IG), FullGrad (FG), GuidedIG (GIG))과 비교하여 저희 기술(DGA)의 설명가능성이 가장 뛰어남을 보이고 있습니다.
정량적 성능 측정 방법
1. pixel perturbation
LeRF는 이미지의 중요한 특성을 나타내는 변수들을 하나씩 추가하면서 설명 가능 기술의 설명력이 증가함을 보이는 것이고
MoRF는 이미지의 중요한 특성을 나타내는 변수들을 하나씩 삭제하면서 설명 가능 기술의 설명력이 감소함을 보이는 것입니다.
MoRF가 적을수록 해당 설명 가능 기술이 이미지에서 중요한 특성치를 골라냈다는 것을 반증할 수 있습니다.
설명가능성을 정량적으로 입증하기는 어려운 문제이지만, 해당 자료 확인해주시면 저희 기술(DGA)가 확연히 향상된 성능을 보임을 알 수 있습니다.
2. sensitivity-n
3. ROAR(RemOve-And-Retrain)
정성적 성능 지표
Figure 6
참고 문헌
https://www.aitimes.kr/news/download.php?subUploadDir=202211/&savefilename=26591_133.pdf&filename=Distilled%20Gradient%20Aggregation%20Purify%20Features%20for%20Input%20Attribution%20in%20the%20Deep%20Neural%20Network%20.pdf&idxno=133