표제지
목차
요약문 4
제1장 서론 17
제1절 연구의 배경 및 필요성 17
제2절 연구목표 및 방법 19
제2장 초거대 기술개발동향 및 기술적 특징 20
제1절 초거대 AI 기술개발 배경 및 개발 동향 20
제2절 초거대 AI의 기술적 특징 및 동향 35
제3장 AI 초거대 기술적용 사례 43
제4장 특허분야 AI 기술 적용 현황 53
제1절 국내 특허행정분야 적용 사례 53
제2절 해외 특허행정분야 적용 현황 58
제3절 민간분야 적용 현황 77
제5장 초거대 AI 적용대상 과제 발굴 및 적용가능성 81
제1절 특허행정 서비스 유형에 따른 검토 81
제2절 기술 특성에 따른 검토 84
제6장 초거대 AI 기술 적용방안 및 효과 100
제7장 결론 및 제언 116
참고문헌 118
판권기 120
[표 1] 초거대 AI 모델 현황 18
[표 2] 토큰화 예시 21
[표 3] 원-핫 인코딩 예시 22
[표 4] GPT-3 논문에서 공개된 다양한 사이즈의 GPT-3 모델 31
[표 5] 공급자 주요 API 시범 서비스 41
[표 6] chatGPT를 이용해 생성된 청구항의 국문 번역 49
[표 7] 뤼튼 보도자료 생성 결과 예시 51
[표 8] CPC 분류 처리 프로세스 60
[표 9] UNITY 주요 기능 61
[표 10] 도면 검색 예시 63
[표 11] JPO 부서별 조사에 따른 해결대상 과제 유형 67
[표 12] JPO의 AI 적용여부 검토대상 업무 68
[표 13] JPO의 업무 분야별 솔루션 검토 69
[표 14] GPT-2를 이용하여 생성된 특허 청구항 예시 79
[표 15] GPT-2를 이용하여 생성된 특허 청구항 번역 79
[표 16] 기술특성별로 분류한 인공지능 도입검토 대상 과제 82
[표 17] 번역 기술에 대한 전문가 질의 결과 84
[표 18] 검색 기술에 대한 전문가 질의 결과 86
[표 19] 분류 기술에 대한 전문가 질의 결과 90
[표 20] 문서생성 기술에 대한 전문가 질의 결과 92
[표 21] 요약 기술에 대한 전문가 질의 결과 94
[표 22] 대화 기술에 대한 전문가 질의 결과 94
[표 23] 멀티모달 기술에 대한 전문가 질의 결과 96
[표 24] 데이터 분석 기술에 대한 전문가 질의 결과 97
[표 25] 전문가 질의 결과 정리 98
[표 26] 전문가 질의사항 101
[표 27] 전문가 응답사항 정리 103
[그림 1] 지식재산권 출원 건수 현황 17
[그림 2] 지식재산권 심사처리기한 17
[그림 3] 딥러닝 인공 신경망 구조 21
[그림 4] 합성곱 신경망의 구조 23
[그림 5] 순환 신경망의 구조 24
[그림 6] 시퀀스-투-시퀀스 모델의 구조 24
[그림 7] 셀프 어텐션 구조 시각화 25
[그림 8] 트랜스포머 모델 구조 26
[그림 9] 사전 학습 모델의 구조(BERT) 28
[그림 10] BERT와 GPT 모델의 구조 비교 29
[그림 11] BERT 모델(왼쪽)과 GPT 모델(오른쪽)의 구조 비교 30
[그림 12] BART 모델 구조 30
[그림 13] 파라미터 수에 따른 GPT-3 모델의 퓨샷 러닝 정확도 비교 32
[그림 14] 네이버의 이미지 기반 문서검색 서비스 34
[그림 15] 제로샷 러닝 예시 37
[그림 16] 원샷 러닝 예시 38
[그림 17] 퓨샷 러닝 예시 38
[그림 18] 클로바 스튜디오 플레이그라운드 화면 40
[그림 19] 클로바 스튜디오 익스플로러 화면 40
[그림 20] 초거대 AI API 시범 서비스 지원사업 개념도 41
[그림 21] DALL-E 2가 "1990년대 기술로 물속에서 새로운 AI 연구를 하고 있는 테디베어" 라는 텍스트를 기반으로 생성한 이미지 43
[그림 22] Midjourney가 "mechanical dove"라는 단어를 통해 생성한 이미지 44
[그림 23] 스테이블 디퓨전이 "a photograph of an astronaut riding a horse" 텍스트를 기반으로 생성한 이미지 45
[그림 24] 재스퍼 서비스 소개 45
[그림 25] Copy.ai 서비스 소개 페이지 46
[그림 26] 깃허브 코파일럿 사용화면 47
[그림 27] chatGPT 사용 화면 48
[그림 28] chatGPT를 이용한 청구항 생성 예시 49
[그림 29] 뤼튼 서비스 이용화면 예시 (보도자료 생성) 51
[그림 30] 클로바노트 AI 요약서비스 52
[그림 31] AI 특허 검색시스템 화면 53
[그림 32] 인공지능 디자인 및 상표 이미지 검색결과 예시 54
[그림 33] 인공지능 상표 이미지 검색결과 예시 54
[그림 34] 인공지능 분류코드 추천 화면 55
[그림 35] 인공지능 챗봇 및 상담원 지원시스템 구축 모델 56
[그림 36] KorPatBERT 개요 57
[그림 37] KorPatBERT의 CPC 분류 태스크 성능 평가 57
[그림 38] USPTO에서 공개한 새로운 대민용 특허검색 툴 58
[그림 39] 인공지능 검색결과가 기록된 심사 히스토리 문서 59
[그림 40] CPC 자동 분류기 구조 60
[그림 41] CPC 자동분류 로직 61
[그림 42] UNITY의 출원서와 관련된 검색질의어 제공 화면 62
[그림 43] UNITY의 출원서와 관련된 종합 검색결과 제공 화면 62
[그림 44] 챗봇(Wolcott) 화면 63
[그림 45] 도면 검색 로직 63
[그림 46] AI 기반 도형상표 분류방안 64
[그림 47] 심사 워크플로우 64
[그림 48] 2020년 진행된 EPO Code challenge 홍보영상 65
[그림 49] EPO의 자연어 처리 프로젝트 개요도 66
[그림 50] EPO의 AI-supported CPC 재분류 태스크 개요도 66
[그림 51] JPO의 AI 기술 활용에 관한 액션 플랜(2022년~2026년) 72
[그림 52] AI 기술 적용 유사 이미지검색 결과 예시 73
[그림 53] WIPO 검색사이트에 적용된 번역기술 74
[그림 54] WIPO 번역기술과 구글 번역기술의 성능 비교 사례 74
[그림 55] 유사도 검색이 가능한 GBD 화면 75
[그림 56] 기존 이미지 유사 검색 엔진 검색 결과 75
[그림 57] 인공신경망 기반의 새로운 엔진 검색 결과 76
[그림 58] IPCCAT이 적용된 IPC Publication 화면 76
[그림 59] 키워트 서비스의 AI 검색식 자동 확장 기능 78
[그림 60] 키워트 서비스의 AI 도면인식 기능 78
[그림 61] AI 특허 검색 엔진 개념도 87
[그림 62] AI 기반 평가모형 97
[그림 63] Cerebras의 파라미터 규모별 모델 학습비용 111
[그림 64] 네이버 하이퍼클로바 모델의 토큰당 사용비용 112
[그림 65] 네이버 하이퍼클로바 모델의 토큰당 튜닝비용 112
[그림 66] 네이버 하이퍼클로바의 튜닝된 모델의 토큰당 사용비용 113
[그림 67] GPT-3 모델의 1,000개 토큰당 사용비용 113
[그림 68] GPT-3 모델의 튜닝비용 및 튜닝된 모델의 사용비용 114