표제지
목차
요약문 13
제1장 서론 33
제1절 연구의 배경 및 목적 33
1. 연구의 배경 33
2. 연구의 목적 37
제2절 연구의 절차 및 방법 41
제2장 인공지능 신뢰성 구성요소 도출 44
제1절 국내외 인공지능 원칙 분석 44
제2절 인공지능 신뢰성에 관한 메타분석 연구 46
제3절 인공지능 신뢰성 구성요소 도출 49
제3장 인공지능 신뢰성 빅데이터 분석 53
제1절 분석 개요 53
1. 연구 방법 54
2. 연구의 절차 55
3. 분석 데이터 및 부정 기사 추출 기준 58
제2절 분석 결과 60
1. 자율주행 60
2. 안면인식 63
3. 가상비서 66
제3절 소결 69
제4장 인공지능 신뢰성 요구수준 분석 71
제1절 전문가 설문조사 개요 71
제2절 설문조사 분석 결과 72
1. 인공지능 신뢰성 구성요소 대분류 간 상대적 중요도 평가 결과 72
2. 인공지능 신뢰성 구성요소 대분류의 세부항목간 상대적 중요도 평가 결과 77
3. 전체 세부항목 간 상대적 중요도 평가 결과 82
4. 전문가 업무분야별 응답 비교 : 신뢰성 구성요소 대분류 간 중요도 비교 84
5. 전문가 업무분야별 응답 비교 : 신뢰성 구성요소 대분류의 세부항목간 중요도 비교 90
6. 전문가 업무분야별 응답 비교 : 신뢰성 구성요소 전체 세부항목간 중요도 비교 95
7. 주요 인공지능 서비스별 인공지능 신뢰성 중요도 분석 96
제3절 소결 101
제5장 인공지능 신뢰성 점검 목록 개발자 인식 조사 105
제1절 조사 개요 105
제2절 분석 결과 106
1. 응답자 특성 106
2. 신뢰성 구성요소의 상대적 중요도 108
3. 세부 점검 목록 인식 결과 109
제3절 소결 124
제6장 인공지능 신뢰성 기술도구 현황 128
제1절 인공지능 신뢰성 기술도구 개요 128
제2절 인공지능 신뢰성 기술도구 분석 129
1. 프라이버시 보호를 위한 기술도구 129
2. 견고성을 위한 기술도구 134
3. 공정성을 위한 기술도구 135
4. 투명성을 위한 기술도구 140
제3절 소결 142
제7장 주요국 인공지능 신뢰성 정책 현황 145
제1절 해외 인공지능 신뢰성 정책 현황 145
1. EU 인공지능규제안 145
2. 미국 알고리즘 책임법안(Algorithmic Accountability Act of 2019) 150
3. 캐나다의 자동화된 의사결정에 관한 지침(Directive on Automated Decision-Making) 154
4. 미국 워싱턴주 공공기관 얼굴인식 서비스 사용에 관한 법률 159
5. 미국 일리노이주 인공지능 화상면접법 163
6. EU 디지털서비스법안 165
7. 일본 특정 디지털플랫폼의 투명성 및 공정성 향상에 관한 법률 168
제2절 소결 170
제8장 결론 172
참고문헌 187
판권기 189
〈표 1-1〉 인공지능 신뢰성 관련 위협 요인 35
〈표 2-1〉 인공지능 윤리기준의 10대 핵심 요건 44
〈표 2-2〉 신뢰할 수 있는 인공지능 실현 전략의 인공지능 신뢰성 핵심요소 45
〈표 2-3〉 버크만클라인센터의 인공지능 8대 원칙 46
〈표 2-4〉 Jobin et al.의 인공지능 11대 원칙 47
〈표 2-5〉 세계경제포럼의 인공지능 윤리 원칙 48
〈표 2-6〉 가트너의 인공지능 가이드라인 49
〈표 2-7〉 인공지능 신뢰성 구성요소 비교 52
〈표 3-1〉 감성분석 방법론과 장단점 54
〈표 3-2〉 Vader의 문장별 긍부정 예측 예시 56
〈표 3-3〉 Vader의 합성 값에 따른 긍정, 중립, 부정 분류 기준 57
〈표 3-4〉 인공지능 언론 기사 분석 데이터 개요 58
〈표 3-5〉 인공지능 언론 기사 분석 데이터 개요 58
〈표 3-6〉 연도별 분석 대상 데이터 59
〈표 3-7〉 자율주행 관련 언론 기사 분석 데이터 개요 60
〈표 3-8〉 자율주행 분야의 부정 기사의 주요 사건 (2017~2021) 61
〈표 3-9〉 자율주행 분야의 부정적 요인과 AI 신뢰성 63
〈표 3-10〉 안면인식 관련 언론 기사 분석 데이터 개요 63
〈표 3-11〉 안면인식 분야의 부정 기사의 주요 사건 (2017~2021) 64
〈표 3-12〉 안면인식 분야의 부정적 요인과 인공지능 신뢰성 66
〈표 3-13〉 가상비서 관련 언론 기사 분석 데이터 개요 67
〈표 3-14〉 가상비서 분야의 부정 기사의 주요 사건 (2017~2021) 68
〈표 4-1〉 인공지능 신뢰성 구성요소별 중요도 전문가 설문조사 개요 71
〈표 4-2〉 인공지능 신뢰성 구성요소별 중요도 전문가 설문조사 내용 71
〈표 4-3〉 인공지능 신뢰성 대분류의 세부항목 간 상대적 중요도 평가 예시 72
〈표 4-4〉 견고성에 대한 상대적 중요도 평가결과 73
〈표 4-5〉 프라이버시 보호에 대한 상대적 중요도 평가결과 74
〈표 4-6〉 투명성에 대한 상대적 중요도 평가결과 74
〈표 4-7〉 책임성에 대한 상대적 중요도 평가결과 75
〈표 4-8〉 공정성에 대한 상대적 중요도 평가결과 76
〈표 4-9〉 인류가치 증진에 대한 상대적 중요도 평가결과 76
〈표 4-10〉 견고성의 세부항목 간 상대적 중요도 평가결과 77
〈표 4-11〉 프라이버시 보호의 세부항목 간 상대적 중요도 평가결과 78
〈표 4-12〉 투명성의 세부항목 간 상대적 중요도 평가결과 79
〈표 4-13〉 책임성의 세부항목 간 상대적 중요도 평가결과 80
〈표 4-14〉 공정성의 세부항목 간 상대적 중요도 평가결과 81
〈표 4-15〉 인류가치증진의 세부항목 간 상대적 중요도 평가결과 82
〈표 4-16〉 인공지능 신뢰성 구성요소 세부항목 간 상대적 중요도 평가결과 83
〈표 4-17〉 견고성에 대한 업무분야 별 상대적 중요도 비교 결과 85
〈표 4-18〉 프라이버시 보호에 대한 업무분야 별 상대적 중요도 비교 결과 85
〈표 4-19〉 투명성에 대한 업무분야 별 상대적 중요도 비교 결과 86
〈표 4-20〉 책임성에 대한 업무분야 별 상대적 중요도 비교 결과 87
〈표 4-21〉 공정성에 대한 업무분야 별 상대적 중요도 비교 결과 88
〈표 4-22〉 인류가치 증진에 대한 업무분야 별 상대적 중요도 비교 결과 88
〈표 4-23〉 견고성 세부항목에 대한 업무분야 별 상대적 중요도 분석 90
〈표 4-24〉 프라이버시 보호 세부항목에 대한 업무분야 별 상대적 중요도 분석 91
〈표 4-25〉 투명성 세부항목에 대한 업무분야 별 상대적 중요도 비교 결과 92
〈표 4-26〉 책임성 세부항목에 대한 업무분야 별 기술통계 분석결과 93
〈표 4-27〉 공정성 세부항목에 대한 업무분야 별 기술통계 분석결과 93
〈표 4-28〉 인류가치증진 세부항목에 대한 업무분야 별 기술통계 분석결과 94
〈표 4-29〉 대화형 인공지능에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 96
〈표 4-30〉 인공지능 번역에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 97
〈표 4-31〉 인공지능 기반 쇼핑에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 98
〈표 4-32〉 자율주행차에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 98
〈표 4-33〉 생체인식 서비스에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 99
〈표 4-34〉 인공지능 심사에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 100
〈표 4-35〉 인공지능 기반 의료에 대한 인공지능 신뢰성 대분류 간 상대적 중요도 평가결과 100
〈표 5-1〉 인공지능 신뢰성 점검목록 개발자 인식 조사 개요 105
〈표 5-2〉 조사 내용 105
〈표 5-3〉 응답자 특성 분포 107
〈표 5-4〉 프라이버시 보호 관련 점검목록 109
〈표 5-5〉 견고성 관련 점검목록 112
〈표 5-6〉 공정성 관련 점검목록 114
〈표 5-7〉 투명성 관련 점검목록 117
〈표 5-8〉 책임성 관련 점검목록 119
〈표 5-9〉 인류가치 증진 관련 점검목록 122
〈표 6-1〉 분석 대상 인공지능 신뢰성 기술도구 129
〈표 6-2〉 프라이버시 보호 기술도구의 기능과 인공지능 신뢰성 구성요소 대응 133
〈표 6-3〉 적대적 공격의 분류 134
〈표 6-4〉 견고성 기술도구의 기능과 인공지능 신뢰성 구성요소 대응 135
〈표 6-5〉 공정성 측정을 위한 혼동행렬 137
〈표 6-6〉 혼동행렬로 측정할 수 있는 성능 지표 137
〈표 6-7〉 공정성 항목과 의미 139
〈표 6-8〉 공정성 기술도구의 기능과 인공지능 신뢰성 구성요소 대응 140
〈표 6-9〉 투명성 기술도구의 기능과 인공지능 신뢰성 구성요소 대응 141
〈표 6-10〉 AI 신뢰성 기술도구의 기능과 AI 신뢰성 구성요소 대응 144
〈표 7-1〉 EU 인공지능규제안의 고위험 인공지능 시스템에 대한 요구사항 145
〈표 7-2〉 EU 인공지능규제안의 인공지능 신뢰성 조항 150
〈표 7-3〉 미국 알고리즘책임법안의 고위험 자동결정 시스템 및 고위험 정보시스템에 대한 요구사항 152
〈표 7-4〉 미국 알고리즘 책임법안의 인공지능 신뢰성 구성요소별 규제 내용 153
〈표 7-5〉 캐나다 자동화된 결정에 대한 지침의 인공지능 신뢰성 조항 158
〈표 7-6〉 미국 워싱턴 주 공공기관 얼굴인식 서비스의 사용에 관한 법률의 인공지능 신뢰성 조항 162
〈표 7-7〉 미국 일리노이주 인공지능 화상면접법의 인공지능 신뢰성 조항 164
〈표 7-8〉 EU 디지털서비스법안의 인공지능 신뢰성 조항 167
〈표 7-9〉 일본 플랫폼 거래 투명화법의 인공지능 신뢰성 조항 170
[그림 1-1] 인공지능 기술의 하이프사이클 36
[그림 1-2] 인공지능의 신뢰성 저하 사례 40
[그림 1-3] 연구의 절차 및 방법 43
[그림 3-1] 인공지능 언론 기사 감성 분석 절차 57
[그림 3-2] 인공지능 언론 기사 감성분석 결과를 활용한 부정 기사 산출 및 정성분석 절차 60
[그림 3-3] 자율주행 언론 기사 중 부정 기사 산출 결과 61
[그림 3-4] 안면인식 언론 기사 중 부정 기사 산출 결과 64
[그림 3-5] 가상비서 언론 기사 중 부정 기사 산출 결과 67
[그림 4-1] 인공지능 신뢰성 구성요소 72
[그림 4-2] 인공지능 신뢰성 전체 세부항목 간 상대적 중요도 결과 83
[그림 4-3] 인공지능 신뢰성 구성요소 세부항목 간 상대적 중요도 평가결과 84
[그림 4-4] 업무분야 별 인공지능 신뢰성 대분류 구성요소 중요도 평가 89
[그림 4-5] 전문가 업무분야 별 인공지능 신뢰성 전체 세부항목 간 상대적 중요도 비교 결과 95
[그림 5-1] 응답자 인공지능 분야 경력 분포 106
[그림 5-2] 응답자 소속 기업 특성 분포 107
[그림 5-3] 인공지능 신뢰성 6대 구성 요소의 상대적 중요도 108
[그림 5-4] 프라이버시 보호 세부 점검 항목의 필요성 110
[그림 5-5] 프라이버시 보호 세부 점검 항목의 상대적 중요성 110
[그림 5-6] 프라이버시 보호 세부 점검 항목의 수행 여부 111
[그림 5-7] 견고성 세부 점검 항목의 필요성 112
[그림 5-8] 견고성 세부 점검 항목의 상대적 중요성 113
[그림 5-9] 견고성 세부 점검 항목의 수행 여부 113
[그림 5-10] 공정성 세부 점검 항목의 필요성 115
[그림 5-11] 공정성 세부 점검 항목의 상대적 중요성 115
[그림 5-12] 공정성 세부 점검 항목의 수행 여부 116
[그림 5-13] 투명성 세부 점검 항목의 필요성 118
[그림 5-14] 투명성 세부 점검 항목의 상대적 중요성 118
[그림 5-15] 투명성 세부 점검 항목의 수행 여부 119
[그림 5-16] 책임성 세부 점검 항목의 필요성 120
[그림 5-17] 책임성 세부 점검 항목의 상대적 중요성 121
[그림 5-18] 책임성 세부 점검 항목의 수행 여부 121
[그림 5-19] 인류가치증진 세부 점검 항목의 필요성 123
[그림 5-20] 인류가치증진 세부 점검 항목의 상대적 중요성 123
[그림 5-21] 인류가치증진 세부 점검 항목의 수행 여부 124
[그림 6-1] 차분 프라이버시의 개념과 노이즈 130
[그림 6-2] 데이터 최소화를 위한 데이터 일반화의 개념 132
[그림 6-3] 수신자 조작 특성 곡선의 예시 138