표제지
목차
국문 초록 8
Abstract 9
제1장 서론 10
1.1. 연구 배경 10
1.2. 연구 목적 10
제2장 합성곱 신경망 및 설명 가능한 인공지능 기법 11
2.1. 합성곱 신경망 11
2.2. 설명 가능한 인공지능 (eXplainable Artificial Intelligence, XAI) 11
2.2.1. LIME (Local Interpretable Model-agnostic Explanation) 12
2.2.2. 필터 시각화 (Filter Visualization) 14
제3장 실험결과 15
3.1. 데이터셋 설명 15
3.2. 연구 개요 16
3.3. 연구 결과 17
제4장 결론 및 향후 연구 방향 24
참고문헌 26
부록 1. 합성곱 신경망 필터 시각화 비교 27
표 1. 데이터셋 Label 설명 16
표 2. 학습과 테스트에 사용된 데이터셋 구분 16
표 3. 합성곱 신경망 모델의 필터 크기 및 패딩 변화 조건 17
표 4. 필터의 크기와 패딩 변화에 따른 합성곱 신경망의 결과 19
표 5. Ship 이미지를 바르게 분류한 경우에 대해 LIME을 적용한 결과 20
표 6. Ship 이미지를 No-Ship 이미지로 잘못 분류한 경우에 대해 LIME을 적용한 결과 20
표 7. Label과 LIME Segment의 관계 22
표 8. 모델 별 Ship 이미지 중 잘못 분류한 경우의 개수와 인덱스 22
그림 1. 합성곱 신경망의 원리 11
그림 2. XAI 기법인 LIME이 보여주는 진단 결과에 대한 근거 12
그림 3. 국지적 대리 분석 기법의 예시 13
그림 4. 이미지 분류 예측 결과와 LIME을 통해 분석한 결과에 대한 근거 14
그림 5. Ship 이미지 예시 15
그림 6. No-Ship 이미지 예시 15
그림 7. Model 별 Accuracy 값 18
그림 8. Model 별 Loss 값 18
그림 9. 필터 변화에 따른 ROC Curve 및 AUC 값 18
그림 10. LIME Segment와 Label의 관계(Model_A) 21
그림 11. LIME Segment와 Label의 관계(Model_B) 21
그림 12. LIME Segment와 Label의 관계(Model_C) 21
그림 13. LIME Segment와 Label의 관계(Model_D) 21
그림 14. LIME Segment와 Label의 관계(Model_E) 21
그림 15. LIME Segment와 Label의 관계(Model_F) 21
그림 16. 합성곱 신경망의 성능과 LIME Segment의 관계 분석 22
그림 17. Model_A 합성곱 계층의 출력물 시각화, 인덱스 35 27
그림 18. Model_E 합성곱 계층의 출력물 시각화, 인덱스 35 28
그림 19. Model_A 합성곱 계층의 출력물 시각화, 인덱스 159 29
그림 20. Model_E 합성곱 계층의 출력물 시각화, 인덱스 159 30
그림 21. Model_A 합성곱 계층의 출력물 시각화, 인덱스 300 31
그림 22. Model_E 합성곱 계층의 출력물 시각화, 인덱스 300 32
그림 23. Model_A 합성곱 계층의 출력물 시각화, 인덱스 736 33
그림 24. Model_E 합성곱 계층의 출력물 시각화, 인덱스 736 34
그림 25. Model_A 합성곱 계층의 출력물 시각화, 인덱스 934 35
그림 26. Model_E 합성곱 계층의 출력물 시각화, 인덱스 934 36
그림 27. Model_A 합성곱 계층의 출력물 시각화, 인덱스 939 37
그림 28. Model_E 합성곱 계층의 출력물 시각화, 인덱스 939 38
그림 29. Model_A 합성곱 계층의 출력물 시각화, 인덱스 953 39
그림 30. Model_E 합성곱 계층의 출력물 시각화, 인덱스 953 40
그림 31. Model_A 합성곱 계층의 출력물 시각화, 인덱스 956 41
그림 32. Model_E 합성곱 계층의 출력물 시각화, 인덱스 956 42
그림 33. Model_A 합성곱 계층의 출력물 시각화, 인덱스 1131 43
그림 34. Model_E 합성곱 계층의 출력물 시각화, 인덱스 1131 44