기획연재

김영사가 기획한 특별한 즐거움.
책과 함께하는 재미가 가득합니다.

호모 데우스: 미래의 역사

<호모 데우스> - 유발 하라리

Chapter 11.#11. 알고리즘을 선택한 대가

구글과 페이스북, 그밖의 다른 알고리즘들이 모든 것을 아는 신탁이 되면, 그다음에는 대리인으로 진화하고 마침내 주권자로 진화할 것이다.

이 경로를 이해하기 위해 요즘 많은 운전자들이 사용하는 GPS 기반의 내비게이션 애플리케이션 ‘웨이즈(Waze)’의 사례를 살펴보자. 웨이즈는 단순히 지도가 아니다. 수백만 사용자들이 교통체증, 자동차 사고, 경찰차에 대한 정보를 끊임없이 업데이트한다. 그 결과 웨이즈는 어느 길로 가면 심한 정체를 피할 수 있는지 알고 목적지로 가는 가장 빠른 길로 사용자를 안내한다.

 

처음에는 웨이즈 알고리즘이 그저 신탁 같은 역할을 하는 것처럼 보인다. 우리가 질문을 하면 신탁이 답하지만, 결정하는 것은 우리 몫이다. 하지만 신탁이 우리의 신뢰를 얻으면, 그다음은 대리인으로 변신하기 마련이다. 우리는 알고리즘에 최종 목표만 부여하고, 그러면 우리가 감독할 필요 없이 알고리즘이 알아서 그 목표를 실현한다. 웨이즈의 경우 우리가 무인자동차에 웨이즈를 연결하고 “집까지 가장 빠른 길로 가줘” 또는 “가장 경치 좋은 길로 가줘” 또는 “오염을 최소로 일으키는 길로 가줘”라고 말할 때 그런 일이 일

어나는 것이다. 명령은 우리가 하지만, 그 명령을 실행하는 것은 웨이즈의 몫이다.

 

 

 

 

마지막으로, 웨이즈는 주권자가 될 것이다. 엄청난 힘을 쥐고 우리보다 훨씬 많은 것을 알게 된 웨이즈는 우리를 조종하고 우리의 욕망을 주무르고 우리 대신 결정을 내리기 시작할 것이다. 예를 들어 웨이즈가 너무나 훌륭해서 모든 사람이 사용한다고 가정하자. 그리고 1번 도로는 막히지만 2번 도로는 비교적 소통이 원활하다고 가정하자. 웨이즈가 모든 운전자에게 그 사실을 알려준다면, 모든 운전자가 2번 도로로 몰려 결국 그 도로도 막힐 것이다. 모두가 같은 신탁을 이용하고 모두가 그 신탁을 믿을 때, 신탁은 주권자로 변

한다. 그리하여 웨이즈는 우리 대신 생각해야 한다. 예컨대 2번 도로가 소통이 원활하다는 것을 절반의 운전자들에게만 알려주고, 나머지 절반에게는 이 정보를 비밀로 하는 것이다. 그렇게 함으로써 2번 도로를 막히지 않게 하면서 1번 도로의 체증을 해소할 수 있다.

 

마이크로소프트는 ‘코타나(Cortana)’라는 훨씬 더 정교한 시스템을 개발 중이다. 마이크로소프트는 앞으로 출시할 새로운 버전의 윈도우에 일종의 개인 비서인 코타나를 필수사양으로 넣을 계획이다. 사용자들은 코타나가 파일, 이메일, 응용프로그램에 접근할 수 있도록 승인하라는 권유를 받을 것이고, 그렇게 하면 코타나는 사용자에 대해 알아내 수많은 문제에 대한 조언을 제공할 뿐 아니라, 사용자의 이익을 대변하는 가상 대리인이 될 것이다.

 

 

 

 

결국 우리는 이런 전지적 네트워크에서 잠시도 연결이 끊겨 지낼 수 없는 시점에 이를 것이다. 연결이 끊긴다는 것은 곧 죽음을 의미한다. 의학의 바람이 실현된다면, 미래 사람들은 몸에 수많은 생체 기기, 바이오닉 장기, 나노로봇을 장착하고, 그것들을 통해 건강을 관리하고 감염이나 질병 또는 부상을 막을 것이다. 하지만 이런 기기들은 1년 365일 하루 24시간 온라인 상태여야 한다.

21세기의 신기술들은 이렇게 인본주의 혁명을 뒤집어, 인간에게서 권한을 박탈하고 비인간 알고리즘들의 권한을 강화할 것이다.

이런 상황이 끔찍한 사람들도 있겠지만, 사실 수백만 명이 이미 이런 상황을 기꺼이 받아들이고 있다. 오늘날 우리 중 다수가 사생활과 개별성을 포기하고, 자신의 일거수일투족을 기록하고, 온라인에서 생활을 영위하고, 네트워크 연결이 몇 분이라도 끊기면 히스테리를 부린다. 인간에서 알고리즘으로의 권한 이동은 주변의 도처에서 일어나고 있고, 이것은 정부의 중대 결정의 결과가 아니라 평범한 선택들의 저항할 수 없는 흐름 때문이다.

 

 

 

 

주의하지 않으면 그 결과는 조지 오웰이 상상한 경찰국가로 돌아올 것이다. 완전히 새로운 위협에 직면할 때조차도 우리는 지난 날의 적에 대한 방어를 멈추지 않는다. 인간의 개별성을 지키고자 하는 사람들은 항상 집단의 횡포를 경계하지만, 정반대 방향에서 인간 개별성에 대한 위협이 오고 있음을 미처 깨닫지 못하고 있다.

개인은 빅브라더에 의해 무너지는 것이 아니라 내부에서 조용히 붕괴할 것이다.