글로벌 베스트셀러 《사피엔스》의 저자 유발 하라리 6년 만의 신작 《넥서스》

“AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술이기 때문이다.
AI는 도구가 아니라 행위자다.”

스탈린주의와 나치즘도 산업사회를 제대로 건설하는 방법을 배우기 위해 치러야 했던 지독히 값비싼 실험이었다. 스탈린과 히틀러 같은 지도자들은 산업혁명이 풀어놓은 엄청난 힘을 제어하여 온전히 활용할 수 있는 체제는 전체주의뿐이라고 주장했다. 이들은 역사상 최초의 ‘총력전’인 제1차 세계대전을 증거로 들면서, 산업세계에서 살아남기 위해서는 정치, 사회, 경제의 모든 부분에서 전체주의적 통제가 필요하다고 역설했다. 또한 이들은 산업혁명은 긍정적으로 보면 인간의 불완전함과 약점을 가진 이전의 모든 사회 구조를 녹이는 용광로와 같아서, 완벽한 초인이 거주하는 완벽한 사회를 만들 기회를 제공한다고 주장했다.

완벽한 산업사회를 만드는 과정에서 스탈린주의자들과 나치는 수백만 명을 산업적으로 살해하는 방법을 터득했다. 기차(대규모 수송), 철조망(수용소), 전신으로 전달되는 명령이 결합하여 전례 없는 살인 기계가 탄생했다. 오늘날 대부분의 사람들은 스탈린주의자와 나치가 저지른 만행에 경악하지만, 당시에는 수백만 명이 그들의 대담한 비전에 매료되었다. 1940년에는 스탈린과 히틀러가 산업 기술을 활용하는 모범 사례이고 머뭇거리는 자유민주주의 국가들은 역사의 뒤안길로 사라질 운명이라고 믿기 쉬웠다.


산업사회를 구축하는 경쟁적인 방식들이 존재한다는 사실 자체가 막대한 비용을 초래하는 충돌의 불씨였다. 두 차례의 세계대전과 냉전은 무엇이 올바른 방법인지를 두고 벌어진 논쟁으로 볼 수 있다. 이 논쟁의 모든 참가자는 전쟁을 치르는 새로운 산업적 방법을 실험하며 서로에게 배웠다. 하지만 이 논쟁 과정에서 수천만 명이 죽었으며, 인류는 멸망에 위험할 정도로 가까이 다가갔다.

산업혁명은 이 모든 재앙도 모자라 지구 생태계의 균형을 무너뜨림으로써 멸종의 물결을 일으켰다. 21세기 초인 지금, 해마다 최대 5만 8,000종의 생물이 멸종하고 있는 것으로 추정되며, 1970년부터 2014년 사이에 전 세계 척추동물 개체 수가 60퍼센트 감소했다. 인류 문명의 생존도 위태롭다. 우리가 생태적으로도 지속 가능한 산업사회를 건설할 능력은 아직 없어 보이므로, 지금의 인류 세대가 그토록 자랑하는 번영은 다른 생명체와 미래 인류 세대의 희생이라는 끔찍한 대가를 치르고 얻은 것이다.

인류가 증기기관과 전신을 관리하는 방법을 배우기 위해 그토록 끔찍한 교훈이 필요했다면, AI를 관리하는 방법을 배우려면 얼마나 많은 대가를 치러야 할까? AI는 잠재적으로 증기기관이나 전신, 다른 모든 기술보다 강력하고 파괴적일 수 있다. AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술이기 때문이다. AI는 도구가 아니라 행위자다. 기관총과 원자폭탄은 살상 행위에서 인간의 근육을 대체했지만, 누구를 죽일지 결정하는 일에서는 인간의 뇌를 대체할 수 없었다.

AI는 다르다. 지능에서 AI는 원자폭탄뿐 아니라 점토판, 인쇄술, 라디오 등 이전의 모든 정보 기술을 훨씬 능가한다. 점토판은 세금에 대한 정보를 저장했지만 세금을 얼마나 부과할지 스스로 결정할 수 없었고, 완전히 새로운 세금을 발명할 수도 없었다. 인쇄기는 《성경》과 같은 정보를 복제했지만 《성경》에 어떤 텍스트를 포함할지 결정할 수 없었고, 《성경》에 대한 새로운 해설을 쓸 수도 없었다. 라디오는 정치 연설과 교향곡 같은 정보를 전파했지만, 어떤 연설이나 교향곡을 방송할지 결정하거나, 연설문을 작성하고 교향곡을 작곡할 수는 없었다. AI는 이 모든 것을 할 수 있다. 인쇄기와 라디오는 인간이 조작해야 하는 수동적인 도구였던 반면, AI는 이미 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도적으로 만들어갈 수 있는 능동적인 행위자가 되고 있다.

어쩌면 결국 우리는 AI를 이롭게 사용하는 방법을 알아낼 것이다. 하지만 그렇게 되기까지 또다시 세계 제국, 전체주의 체제, 세계대전의 주기를 거쳐야 할까? 21세기 기술은 20세기 기술보다 훨씬 더 강력하다. 그리고 훨씬 더 파괴적일 수 있다. 따라서 우리는 실수할 여유가 없다. 20세기에 인류는 산업 기술을 활용하는 수업에서 C-를 받았다고 말할 수 있다. 간신히 합격한 수준이다. 21세기에는 합격선이 훨씬 더 높아졌다. 이번에는 더 잘해야 한다.

-계속-

3화 계속 보기
1화 다시 보기