넥서스

컨슈머타임스=김성수 기자 | "AI는 우리 종의 역사뿐만 아니라 모든 생명체의 진화 경로를 바꿀지도 모른다." 지난 5월 서울에서 'AI 안전 정상회의'가 열려 세계 각국 정책결정자와 기술 기업 책임자들이 참석했다. 지난해 11월 발표된 블레츨리 선언에 이은 후속 회의로 AI를 주제로 열린 국제회의의 의제가 '개발'이나 '효율'이 아니라 '안전'이라는 점이 눈에 띈다.

급속도로 전례 없는 변화를 추동하는 새로운 기술을 둘러싸고 우려의 목소리가 커지고 있다. 8년 전, 이세돌 9단을 꺾은 알파고가 일으킨 센세이션과는 차원이 다르다. 지난해 3월에는 AI 연구를 최소 6개월 동안 중단할 것을 촉구하는 공개서한에 일론 머스크, 스티브 워즈니악 등 2만 7,000명 이상이 서명했다. 유발 하라리 교수도 그중 한 명이다.

'호모 데우스' 출간 이후 AI 전문가라는 평판을 얻게 된 하라리 교수는 AI 세계를 움직이는 과학자, 기업가, 정치인들의 초대를 받아 현대 기술의 최전선에서 무슨 일이 벌어지고 있는지 직접 보고 들을 수 있었다. '넥서스'는 그 특별한 경험을 하라리 교수만의 독특한 역사적 시각으로 통찰해 특유의 스토리텔링으로 정리한 결과다.

이 책은 '마법사의 제자' 이야기로 시작한다. 마법사의 제자는 스승의 마법 주문으로 일을 손쉽게 해결하려다가 도리어 통제 불능 상황을 초래해 작업장을 물바다로 만들어버린다. 챗GPT와 유튜브 알고리즘, 더 나아가 미래의 AI는 정말 우리의 통제를 벗어나 도리어 인류를 정보의 심연 속으로 밀어넣어 버릴까? 아직은 우리에게 통제권이 있으며, 다음 선택을 매우 신중하게 해야 한다고 하라리 교수는 경고한다. 그에 따르면 AI는 주체성을 지닌, 우리 정보 네트워크의 정식 구성원이기 때문이다.

하라리 교수는 다수의 인터뷰에서 '넥서스'가 던지는 근본적인 물음이 "우리가 지혜로운 사람(호모 사피엔스)이라면 왜 이토록 자기 파괴적일까?"라고 밝힌 바 있다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? 그는 원인이 우리의 본성이 아니라 정보 네트워크에 있다고 주장한다. 인류가 대규모로 협력할 수 있는 네트워크를 구성해내면서 엄청난 힘을 가지게 되었지만, 지혜를 만들어내지는 못했기에 오늘날의 실존적 위기를 자초했다는 것이다.

결국 네트워크가 막강해질수록 자정 장치가 중요해진다. 중세 유럽에는 마녀사냥을 잠재울 자정 장치가 없었다. 정보가 독재자에게 집중되는 전체주의에도 자정 장치가 제도화될 여지가 없다. 민주주의는 정보가 분산되는 정치체제로 견제와 균형을 위한 여러 자정 장치를 갖추고 있지만, 최근 들어 새로운 과제에 맞닥뜨렸다. 봇과 알고리즘이 민주적인 대화를 가로막고 여론을 조작하게 된다면, 공론장에서 토론을 계속할 수 있을까? 하라리 교수의 답은 명쾌하다. "민주주의 국가는 정보 시장을 규제할 수 있으며, 민주주의의 생존 자체가 이런 규제에 달려 있다"