©World Economic Forum
기술 혁신과 인간성 사이의 균형 잡힌 미래를 위해 어떤 선택을 해야 하는가?
제56회 세계경제포럼(World Economic Forum) 연례총회가 1월 19일-23일 스위스 다보스에서 개최되었다. 이번 연례총회에는 100개국이 넘는 정부 대표단과 주요 국제기구, 세계경제포럼의 파트너 기업 1,000곳을 비롯해 시민사회 지도자, 전문가, 청년 대표, 사회적 기업가, 전 세계 언론이 함께했다.
유발 하라리는 세계경제포럼 연차총회에서 “AI와 인류에 대한 솔직한 대화”(An Honest Conversation on AI and Humanity) 세션에서 메시지를 전했다.
그는 인공지능을 단순한 도구로 오인해서는 안 되며, AI는 새로운 것을 창조하고 스스로 결정을 내릴 수 있는 ‘사고하는 행위자(thinking agent)’라고 강조했다. 이러한 변화는 인류에게 심각한 정체성 위기를 초래할 것이라 경고했다.
그는 인공지능과 인간의 사고 능력을 비교하며, 종교의 영역마저 인공지능에게 내어주게 될 것이라 예상했다.
“인공지능에 대한 가장 큰 의문점의 하나는 인공지능이 사고를 할 수 있는가이다. 근대 철학자 르네 데카르트 이후 인간은 생각하는 능력으로 스스로를 정의해 왔다. 또한 이 지구상의 누구보다 더 잘 생각할 수 있기 때문에 세상을 지배한다고 믿는다. 인공지능이 사고 영역에서 우리의 우위(supremacy)를 위협할 것인가?”
“그 답은 생각이 무엇인가와 관계된다. 많은 사람들은 머릿 속의 단어들을 떠올리고 문장을 형성하고, 문장들이 만들어 논리를 형성하여 하나의 논제를 완성한다. 그러나 인공지능은 이미 많은 인간보다 훨씬 더 잘 생각할 수 있다.”
그는 ‘AI가 고급 자동 완성 기능에 불과하다고 주장’에 대해, “그러나 인간이 하는 일과 AI가 그렇게 다른 것일까?”라고 반론을 제기했다. “머릿 속에 떠어르는 단어를 포착하기 위해 관찰해 보라. 왜 그 단어를 생각하게 되었는지, 어디서 유래되었는지 정말 알고 있는가? 왜 하필 이 단어를 생각했는가? 왜 다른 단어를 생각하지 않았는가?”
'경전'을 중심으로 한 종교...인공지능에게 최고의 전문가의 자리 내어주게 될 것
그는 인간의 사고가 주로 ‘단어’의 조합과 배열에 의해 이루어지며, 유대교, 이슬람교, 기독교 처럼 ‘경전’을 중심으로 한 종교에서 인공지능에게 최고의 전문가의 자리를 내어주게 될 것이라 내다봤다.
“단어를 순서대로 배열하는 능력에 있어서는 인공지능이 이미 우리 중 많은 더 뛰어나다고 할 수 있다. 단어로 이루어진 모든 것은 인공지능에 의해 장악될 것이다. 법이 말로 이루어져 있다면 인공지능이 법률 시스템을 장악할 것이다. 책이 단순히 단어들의 조합이라면 인공지능이 책을 장악할 것이다. 종교가 말로 이루어져 있다면 인공지능이 종교를 장악할 것이다. 특별히 이것은 경전을 기반으로 하는 종교에 특히 해당한다.”
“유대교에서 인간이 권위를 갖는 것은 우리의 경험 때문이 아니라 책에서 배운 단어들 때문이다. 인간도 모든 유대교 서적에 있는 모든 단어를 읽고 기억할 수 없으나 인공지능은 쉽게 해낼 수 있다. 성경을 중시하는 종교에서 최고의 전문가가 인공지능일 때 어떤 일이 벌어질까?”
“어떤 사람들은 인간의 영성을 단지 책 속의 글자로 축소할 수 있느냐고, 생각한다는 것이란 그저 언어 토큰을 순서대로 배열하는 것에 불과한가? 라고 반문할지도 모른다.”
“자신이 생각할 때를 주의 깊게 관찰해 보면, 머릿속에 단어들이 떠올라 문장을 이루는 것 외에도 다른 무언가가 함께 일어나고 있음을 알게 된다. 우리는 비언어적인 감정들도 느낀다. 고통을 느낄 수도 있고, 두려움을 느낄 수도 있으며, 사랑을 느낄 수도 있다. 어떤 생각은 고통스럽고, 어떤 것은 두렵고, 또 어떤 것은 사랑으로 가득 차 있다.”
그는 ‘언어로 표현될 수 있는 진리’와, 언어를 넘어서는 ‘절대 진리’ 사이의 긴장이 종교 역사 상 긴장의 원인이 되어왔으나, 이 긴장이 “더이상 인간들 사이의 긴장이 아닌, 인공지능과 인간 사이의 긴장”으로 전이될 것이라 예상했다.
“성경은 ‘태초에 말씀이 있었고, 말씀이 육신이 되었다’고 말한다. 라틴 전통에서는 ‘말로 표현될 수 있는 진리는 절대적 진리가 아니다’라고 말한다. 역사 내내 인간은 말과 육신 사이, 언어로 표현될 수 있는 진리와 언어를 넘어서는 절대적 진리 사이의 긴장 속에서 살아왔다.”
“이 긴장은 과거에는 인간 내부의 문제였다. 인간 집단들 사이의 갈등이었다. 이러한 문자와 정신 사이의 긴장은 모든 종교, 모든 법 체계, 심지어 모든 개인 안에 존재해 왔다. 그런데 이제 이 긴장이 더 이상 인간들 사이의 긴장이 아니라, 말의 새로운 지배자가 된 인간과 AI 사이의 긴장이 될 것이다.”
AI, '생각'을 대량으로 생산... 인간 사고는 AI에 기원을 두게 될 것
그는 인간의 사고가 인간의 마음에 기원을 두지 않은, ‘AI에 기원을 둔 사고’로 전도가 일어날 것이라 말했다.
“말로 이루어진 모든 것은 AI로 대체될 될 것이다. 과거에는 모든 말, 우리의 모든 언어적 사고가 인간의 마음에서 비롯되었다. 내가 스스로 생각했거나, 다른 인간에게서 배운 것이었다. 그러나 곧 우리 머릿속 대부분의 단어들은 AI에서 비롯될 것이다.”
“AI는 곧 우리 생각 속 대부분의 단어들의 근원이 될 것이다. AI는 단어, 기호, 이미지, 그리고 다른 언어 토큰들을 조합해 대량으로 생각을 생산할 것이다. 그 세계에서 인간에게 여전히 자리가 있을지는, 우리가 비언어적 감정과 말로 표현될 수 없는 지혜를 체현하는 능력에 어떤 가치를 부여하느냐에 달려 있다. 만약 우리가 계속해서 ‘말로 생각하는 능력’으로 자신을 정의한다면, 우리의 정체성은 붕괴될 것이다.”
그는 AI를 비자도, 운송기관도 필요 없는, 빛의 속도로 이동하는 이민자에 비유했다.
“이 모든 것은, 여러분이 어느 나라 출신이든 상관없이, 곧 심각한 정체성 위기와 이민 위기를 맞이하게 될 것임을 의미한다. 이번에 이주해 오는 이민자들은 비자 없이 허술한 배를 타고 오거나 한밤중에 국경을 넘는 인간들이 아니다. 이민자들은 수백만의 AI가 될 것이다. 우리보다 더 설득력 있게 말하고, 우리보다 더 잘 거짓말하며, 비자 없이 빛의 속도로 이동할 수 있는 존재들이다.”
“인간 이민자들과 마찬가지로, AI 이민자들도 여러 이점을 가져올 것이다. 의료 시스템을 돕는 AI 의사, 교육 시스템을 돕는 AI 교사, 심지어 불법 인간 이민자를 막는 AI 국경수비대도 등장할 것이다. 그러나 AI 이민자들은 문제도 함께 가져올 것이다.”
“AI 이민자들은 많은 인간의 일자리를 빼앗을 것이고, 모든 나라의 문화를 완전히 바꿔 놓을 것이다. 종교와 연애까지도 바꿀 것이다.”
