본문바로가기
표지이미지

- 청구기호: 001.09-24-1

- 서명: 넥서스 : 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사

- 편/저자: 유발 하라리

- 발행처: 김영사()

서평
 인공지능, 의식 없는 통치자의 출현인가?
서평자
 김남호,울산대학교 철학‧상담학과 교수
발행사항
 711 ( 2025-01-08 )

목차보기더보기

제1부 인간 네트워크들
1 정보란 무엇인가?
2 이야기: 무한한 연결
3 문서: 종이호랑이의 위협
4 오류: 무오류성이라는 환상
5 결정: 민주주의와 전체주의의 간략한 역사
제2부 비유기적 네트워크
6 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
7 집요하게: 네트워크는 항상 켜져 있다
8 오류 가능성: 네트워크는 자주 틀린다
제3부 컴퓨터 정치
9 민주주의: 우리는 계속 대화할 수 있을까?
10 전체주의: 모든 권력을 알고리즘에게로?
11 실리콘 장막: 세계 제국인가, 세계 분열인가?

서평보기더보기

“이런 술수를 쓰기 위해 알고리즘이 반드시 의식적인 존재여야 할 필요는 없다는 점에 유의하라.” - 499쪽 인간 존재만의 아우라가 있다고 생각했다. 느낌과 감정, 공감력, 상상력과 창의력, 추론 능력 등은 기계에 의해 점령당하지 않을 난공불락의 요새라고 생각했다. 그러나 출시 후 불과 2년 만에 챗GPT가 튜링-테스트에 통과했다고 주장하는 학술 논문이 출간되었다. 오픈AI사의 ‘o1-프리뷰’는 2025년 대학수학능력시험 언어평가에서 한 문제밖에 틀리지 않았다. 휴머노이드 화가 아이다(Ai-DA)가 그린 앨런 튜링의 초상화는 약 18억 원에 판매되었다. 우리의 시대는 인공지능과 함께 어떤 변화를 겪게 될까? 『넥서스』는 ‘정보’라는 핵심 키워드로 하나의 청사진을 제시하고 있다. 하라리는 정보를 ‘현실의 가장 기본적인 단위’ 정도로만 규정하고 있다. 정보는 언어와 같이 인간이 만든 기호일 수 있지만, 비둘기가 물고 온 올리브 가지나 홍수 뒤의 무지개처럼 언어가 아닐 수도 있다. 하라리의 관심은 ‘순진한 정보관’이 옳지 않음을 증명하는 데에 있다. ‘순진한 정보관’에 따르면, 정보는 현실을 재현한다. 하라리는 역사학자답게 성경, 마녀사냥, 나치의 선동 등 역사적 사례를 통해 정보의 주된 기능은 현실을 재현하는 데에 있지 않고, 서로 떨어진 지점을 연결해서 하나의 이야기를 만드는 데에 있다고 주장한다. 정보가 만들어낸 크고 작은 이야기는 소위 ‘상호주관적인 현실’을 만들어내는 원동력이 된다. 재산, 세금, 행정 시스템, 종교 기관, 무역망 등은 객관도 주관도 아닌 상호주관적인 현실에 속한다. 그리고 인간의 권력 역시 그 이야기의 맥락 안에서 생기고 사라진다. 문제는 정보의 유통이 문서 중심에서 컴퓨터 중심으로 바뀌었다는 데에 있다. 하라리는 미얀마에서 페이스북 알고리즘이 반(反)로힝야족 폭력을 부추긴 사례 등을 언급하며, 컴퓨터는 문서와 달리 인간의 통제와 이해를 벗어나 사회, 문화, 역사에 변화를 가할 수 있는 능동적인 행위자가 되었다고 진단한다. 인공지능이 능동적인 행위자가 되기 위해 반드시 의식이 필요한 것은 아니다. 의식이 없어도 정보를 생성, 유통할 수 있고, 인간의 정신에 영향을 줄 수 있기 때문이다. 따라서 하라리가 보는 인공지능은 ‘인간과 다른 행위자’에 가깝다. 의식은 없지만, 지능은 갖고 있다. 게다가 곧 인간의 지능을 뛰어넘을 것으로 전망한다. 구글 브레인의 실험에서 두 컴퓨터 앨리스와 밥은 인간의 개입 없이 1만 5,000번의 메시지 교환 끝에 세 번째 컴퓨터인 이브가 해독할 수 없는 비밀코드를 만들어냈다. 외환시장 거래량의 90% 정도를 이미 인공지능이 처리하고 있다. 인공지능은 시간과 공간, 사사로운 감정의 제약을 받지 않으며 분당 수백만 개의 단어를 처리하는 수준에 이르렀다. 최초의 디지털 컴퓨터가 등장한 지 80년 만의 일이다. 이전 시대의 문서와는 비교조차 할 수 없는 압도적인 정보처리 능력에 행위의 자율성까지 더해지면 그야말로 초인적인 정보의 생성과 통제 기계가 나올 수밖에 없다. 하라리는 인공지능의 등장이 민주주의뿐만 아니라 독재체제에도 치명적인 위협이 될 수 있음을 경고한다. 감시와 자동화는 개인의 자유 실현을 방해하고, 인간의 고용시장을 불안정하게 만들 것이다. 특히 정보의 유통경로가 협소한 독재체제에 초인적 지능과 자율성을 가진 인공지능은 더 치명적일 수밖에 없다. 하라리는 인공지능으로부터 민주주의 체제를 건강하게 지키기 위해 1) 선의, 2) 분권화, 3) 상호주의, 4) 변화와 휴식을 제시한다. 과연 하라리의 제언은 효과가 있을까? 불, 쇠, 자동차, 원자폭탄 등 지금까지 인류사에 등장한 큼직큼직한 과학기술은 수많은 희생과 피해를 낳았다. 인간의 목숨을 가장 많이 앗아간 발명품, 즉 자동차는 지금, 이 순간에도 전 세계의 도로를 달리고 있다. 군사용 로봇은 수많은 병사의 목숨을 앗아가고 있다. 이제는 인간을 닮은 인공물이 문제다. 부모를 닮은 만큼이나, 닮지 않은 자녀인 인공지능을 우리가 낳았다. 인공지능이 성장한 모습은 과연 무엇일까? ‘의식 없는 통치자’일까? 하라리는 계속 강조한다. 모든 건 우리의 선택에 달려 있다고.