[미래이슈] 유발 하라리 "파시즘의 귀환" 경고 미래이슈

hara1.jpg » 유발 하라리는 4월 열린 테드 강연에 홀로그램으로 무대에 등장했다. 테드닷컴 제공

 

'현재'를 화두로 삼은 세번째 저작 9월 출간

 

몇년 전 세계적인 베스트셀러 <사피엔스>로 일약 세계의 지성 반열에 오른 이스라엘의 역사학자 유발 하라리(히브리대 교수). <사피엔스>(2014)에서 인류가 지나온 길(과거)을 되짚어보고, <호모데우스>(2016)에서 기술과 결합한 인류의 미래를 전망한 그의 요즘 화두는 과거도 미래도 아닌 '현재'다. 그의 시선에 꽂힌 현재 인류의 문제는 어떤 것들일까?

그의 공식 웹사이트를 들여다 보면 그가 요즘 탐색하고 있는 주제들을 대략 짐작할 수 있다. 왜 자유민주주의는 위기에 빠졌을까? 빅데이터 속에서 우리는 어떻게 자유를 계속 지켜갈 수 있을까? 미래의 노동은 어떤 모습일까? 우리는 어떤 준비를 해야 할까? 도널드 트럼프의 부상은 뭘 의미할까? 새로운 세계대전이 일어날까? 가짜뉴스 유행을 어떻게 해야 할까? 국가와 종교는 여전히 의미가 있을까? 지금의 지배 문명은 무엇일까? 컴퓨터와 로봇은 인간 존재의 의미를 어떻게 바꿀까? 우리는 아이들에게 무엇을 가르쳐야 할까? 그는 현대 인류가 풀어야 할 이런 현안들에 대한 탐색의 결과를 21가지 주제로 정리한 새로운 저작 <21세기의 지침 21가지>(21 Lessons for the 21st Century)을 오는 9월4일 출간한다. 2014년 이후 2년에 한 번씩 대작들을 내놓는 셈인데, 마치 과거-미래-현재로 구성된 3부작을 보는 듯하다. 과거에서 미래로 갔다 결국 현재로 돌아오는 그의 집필 방식은 역사와 미래를 공부하고 전망하는 의미를 다시금 생각하게 해준다.

 

hara.jpg » 2014년 <사피엔스>로 세계적 명성을 얻은 하라리는 이후 2년에 한 권씩 저작물을 발표하고 있다. 사진은 오는 9월에 출간되는 세번째 저작 <21세기 지침 21가지>이다. 와이엔하라리닷컴

파시즘은 왜 그렇게 솔깃할까

통제에 유리한 AI와 빅데이터


지난 4월11일 캐나다 밴쿠버에서 열린 ‘2018 테드(TED) 콘퍼런스’는 현재의 문제에 관한 탐색의 결과물 중 한자락을 펼쳐 보인 자리였다. 이날 그가 들고나온 주제는 바로 파시즘(또는 독재)의 귀환이다. 뒤집어 이야기하면 민주주의의 몰락이다. 기술과 권력의 관계를 천착한 끝에 내린 결론이라고 하겠다. 이날의 강연 제목 "파시즘은 왜 그렇게 솔깃할까? 당신의 데이터는 어떻게 파시즘을 작동시킬까?"(Why fascism is so tempting — and how your data could power it.)에는 파시즘에 대한 그의 문제의식이 잘 표현돼 있다. 전작 <호모데우스>에서 인간의 디지털화를 예측한 그에게는 이 문제야말로 현대 인류가 당면한 가장 시급한 문제 가운데 하나로 다가왔던 것으로 보인다.
그는 이날 무대에 직접 나타나지 않았다. 대신 홀로그램을 통해 청중과 마주했다. ‘디지털 아바타’로 자신이 머물고 있는 예루살렘과 청중들이 앉아 있는 밴쿠버 사이의 1만km 간격을 없앴다. 최근 공개된 강연 동영상 첫머리에서 그는 자신의 강연이 홀로그램 방식으로 진행되는 데 대해 "인간이 디지털화할 것이라고 얘기해 왔지만 이렇게 빨리, 그리고 나에게 그런 일이 현실이 될 줄은 몰랐다"며 운을 뗐다.

일반적으로 오늘날 민주주의를 위협하는 요소로 흔히들 부와 권력의 집중을 거론한다. 1% 사회라는 표현은 이런 극도의 불균형 상태를 한마디로 압축해준다. 하라리는 여기에 기술적인 요소를 덧붙인다. 민주주의를 위협하는 가장 큰 위험 요소로 인공지능과 데이터 집중을 꼽은 것. 인간 편의 제고를 위해 개발한 기술이 개인의 자유를 확장하는 것이 아니라 오히려 개인에 대한 통제를 강화하는 쪽으로 오용되고 있거나, 그럴 수 있다는 것이다. 하라리는 “IT 기술의 혁명적 발전은 독재를 더 강력하고 효율적으로 수행할 수 있게 해준다”고 강조했다. 중국을 예로 들어보자. 지난해 중국은 2030년 인공지능 세계 최강 등극을 선언했다. 그때까지 최고의 인공지능 기술을 개발해 세계 1위 인구 대국의 국가 경쟁력과 효율을 극대화하겠다는 생각이다. 빅데이터와 인공지능을 결합한 식량, 자원 등의 완벽한 분배/공급 시스템을 구축하는 것은 한편에선 국가운영의 효율성을 높이는 것이지만, 다른 한편에서는 그렇잖아도 강력한 중국의 감시/통제 시스템을 더욱 촘촘하게 만드는 것이기도 하다. 실제로 최근 중국에서 빅데이터와 인공지능 기술을 토대로 안면인식, 음성인식, 보행인식 등 강력하고 다양한 형태의 감시통제 기술이 잇따라 등장하고 있는 것은 이런 우려에 설득력을 더해준다.

 

hitler.jpg » 환호하는 군중 앞을 지나가는 히틀러. 위키미디어 코먼스

 

파시즘과 민족주의 어떻게 다른가

 

그는 우선 파시즘을 제대로 바라보기 위해서는 이를 민족주의와 구별할 것을 주문했다. 파시즘이 종종 민족주의로 포장되고 있는 점을 지적하기 위한 것이다. 그는 양자의 차이를 이렇게 설명했다. "민족주의는 내 나라는 특별하며, 나는 내 나라에 특별한 의무를 갖고 있다고 말한다. 반대로 파시즘은 내 나라가 최고이며 나는 내 나라에 배타적인 의무가 있다고 말한다. 여기서 배타적이란 내 나라가 아닌 다른 사람이나 다른 나라는 배려할 필요가 없다는 걸 뜻한다. 파시즘은 국가 정체성을 제외한 모든 정체성을 부정한다. 내 나라에 대한 의무만을 고집한다. 나라가 가족을 희생시키길 원한다면, 가족을 희생한다. 국가가 수백만의 사람들을 죽이라고 요구하면, 수백만명을 죽인다. 진리와 아름다움을 배반할 것을 요구하면 배반해야 한다." 그가 생각하는 대표적인 20세기 파시즘 사례는 물론 히틀러의 나치즘이다.

 

hara4.jpg » 문제는 누가 데이터를 통제하느냐이다. 픽사베이

 

또다른 위험 '정보기술과 생명공학의 결합'

 

인공지능, 빅데이터 등 21세기의 신기술이 바로 파시즘과 독재의 강력한 신무기다. 그는 이 신기술과의 결합으로 파시즘이 새로운 형태로 발현될 수 있다고 우려했다.
"고래로부터 정치는 가장 중요한 자산을 통제하는 장치였다. 고대엔 땅이, 근대엔 기계가, 이제는 데이터가 가장 중요한 자산이 되고 있다. 따라서 지금의 정치는 데이터 흐름을 통제하기 위한 투쟁이 되고 있다. 지금 시대의 독재는 너무 많은 데이터가 정부나 소규모 엘리트 손에 집중되고 있는 걸 뜻한다. 20세기엔 민주주의와 자본주의가 파시즘과 공산주의를 물리쳤다. 민주주의가 데이터를 처리하고 의사 결정을 내리는 데 더 낫기 때문이었다. 20세기 기술에서는 너무 많은 데이터를 한 곳에서 집중적으로 사용하는 것은 비효율적이었다. 그러나 중앙집중식 처리가 분산형 처리보다 효율적이지 않다는 건 언제나 통하는 자연법칙이 아니다. 인공 지능과 기계학습의 등장으로 엄청난 양의 정보를 한 곳에서 효율적으로 처리하고, 모든 결정을 한 곳에서 내리는 것이 가능해지고 있다. 그러면 중앙집중식 데이터 처리가 분산 데이터 처리보다 효율이 더 좋을 수 있다 . 그리 되면 20세기의 권위주의 정권의 약점, 즉 모든 정보를 한 곳으로 집중하려는 시도가 오히려 가장 큰 장점이 될 수 있다. 따라서 현재 자유민주주의가 직면한 가장 큰 위험은 정보기술 혁명이 민주주의보다 독재에 더 효율적이라는 데 있다."
그는 민주주의를 위협하는 또 다른 기술적 위험으로 정보기술과 생명공학의 결합을 꼽았다. "이를 이용하면 내가 나를 아는 것보다 나를 더 잘 아는 알고리즘을 만들 수 있기" 때문이다. "일단 그런 알고리즘을 갖게 되면 정부와 같은 외부 시스템은 단지 내 결정을 예측할 뿐 아니라 내 감정도 조작할 수 있다. 나를 사랑하게 하고 야당을 미워하게 만들 수 있다. 그런 풍토에선 민주주의가 생존할 수 없다. 합리성보다 감정이 우선하기 때문이다."

파시즘의 귀환이나 새로운 독재 권력의 부상을 막으려면 어떻게 해야 할까? 그는 무엇보다도 데이터의 소수 집중을 막는 것이 민주주의를 지키는 최대 관건이라고 강조했다.
"당신이 엔지니어라면 지나치게 많은 데이터가 극소수에 집중되는 것을 방지할 방법을 찾아라. 또 분산 데이터 처리가 최소한 중앙 집중식 데이터 처리만큼 효율적으로 작동하는 방법도 찾아야 한다. 이것은 민주주의를 위한 최고의 보호 장치가 될 것이다."

 

hara2.jpg » 굴지의 IT 기업들은 이제 우리의 뇌와 감정을 해킹하는 지경에 이르렀다. 와이엔하라리닷컴

 

나의 약점이 적들의 손에 들어가지 않게 해야


그는 엔지니어가 아닌 일반 개인들에겐, 데이터를 움켜쥔 사람들이 데이터를 이용해 우리 자신의 감정을 해킹하지 못하게 해야 한다고 주문했다. 그러려면 나 자신의 약점을 알아둘 필요가 있으며, 그것이 민주주의의 적들의 손아귀에 들어가지 않도록 하라고 그는 강조했다.
하라리는 강연 후 크리스 앤더슨 TED 대표와의 화상 대화에서도 데이터의 통제권을 누가 갖고 있느냐가 중요하다고 거듭 역설했다. 대기업의 데이터 장악 문제를 어떻게 볼 것이냐는 질문에 그는 이렇게 답변했다. "기업과 정부간에 큰 차이는 없다. 아까도 말했듯이 핵심은 누가 데이터를 통제하느냐이다. 그 '누구'가 진짜 정부다. 데이터를 통제하는 것이 기업이라면 기업이 정부다." 따라서 파시즘의 부활을 막으려면 일부 IT대기업 같은 극소수의 손에 정보가 집중되는 것을 방지해야 한다는 것. 그는 하지만 “현실적으로 쉽지 않을 것”이라고 전망했다. 기술은 사람이 기술을 이해하는 속도보다 더 빨리 앞으로 나아가기 때문이다. 그렇다고 손놓고 있을 수만은 없다. 하라리가 이에 맞서는 방법으로 권유하는 것은 개개인이 현안을 방관하지 않고 적극 참여하는 것이다.

 

출처

http://www.ynharari.com/book/21-lessons/


곽노필 한겨레신문 선임기자 nopil@hani.co.kr
페이스북 페이지 '미래가 궁금해'
트위터 '곽노필의 미래창'
TAG

Leave Comments


profile한겨레신문 선임기자. 미래의 창을 여는 흥미롭고 유용한 정보 곳간. 오늘 속에서 미래의 씨앗을 찾고, 선호하는 미래를 생각해봅니다. 광고, 비속어, 욕설 등이 포함된 댓글 등은 사양합니다.