인류의 미래 50년: AI가 바꿀 권력, 당신의 삶은?
AI 시대, 우리의 이야기와 미래에 대한 이야기
요즘 세상이 너무 빨리 변해서 옛날처럼 할아버지가 손자한테 지혜를 물려줘도 그대로 통하지 않는 시대가 됐어. 딱 한 사람 살아가는 동안 세 가지 혁명을 한꺼번에 겪어야 할 판이야.
- 새로운 지능의 등장: 그냥 계산만 하는 게 아니라 스스로 판단하는 지능이 나타났어.
- 권력 다툼: 이 지능을 누가 통제할지 싸움이 벌어지고 있어.
- 데이터 폭발: 엄청난 양의 데이터가 쏟아져 나와서 AI가 우리 자신보다 우리를 더 잘 알게 될지도 몰라.
유발 하라리는 "사피엔스", "호모 데우스" 같은 책에서 계속 이런 말을 해왔어. 인간은 진실로 움직이는 게 아니라 우리가 믿는 '이야기'로 움직인다. 그리고 그 이야기를 누가 만드느냐에 따라 인류가 결정된다.
근데 이제는 그 이야기를 만드는 사람이 사람이 아닐 수도 있다는 거야. AI는 믿음을 만들어내고, 증거를 조작하고, 친밀감을 만들어낼 수 있어. 이건 옛날 황제나 교회, 정당이 할 수 있었던 것보다 훨씬 더 강력한 힘이야.
지금이 바로 전환점이야. 기술이 강력해진 것도 문제지만, 예전에는 이런 힘을 막아주던 것들, 예를 들면 언론의 자유, 모두가 공유하는 현실, 스스로 고쳐나가는 시스템 같은 것들이 다 사람이 이야기를 만들던 시대에 맞춰져 있었거든.
오늘 이야기는 이런 옛날 방식들을 어떻게 계속 이어갈지, 아니면 완전히 새로운 방법을 만들어야 할지에 대한 거야. 왜냐면 이제 우리는 우리의 미래를 혼자서 다 만들어가는 게 아니기 때문이지.
돌 시대 이야기: 언어의 탄생
만약 시간을 거슬러 올라갈 수 있다면, 언제로 가고 싶냐고? 나는 돌 시대로, 약 5만~7만 년 전의 인지 혁명 시기로 가고 싶어. 거기서 며칠도 못 버티겠지만 말이야. 왜냐하면 그때가 인류 역사상 가장 신비롭고 우리가 가장 이해 못 하는 순간이기 때문이야.
우리가 아주 짧은 시간 안에 보잘것없는 동물에서 지구의 지배자가 됐잖아? 근데 어떻게 그랬는지 정확히 몰라. 가장 유력한 건 언어 때문이라는 거야. 이때 인간이 복잡한 언어를 사용하고 소통하는 능력을 얻었고, 이게 모든 것의 시작이 됐다는 거지.
우리가 지구에 세운 거대한 건물들, 교회, 국가, 무역망, 금융 시스템 같은 것들이 다 말로 만들어졌어. 법책, 성경, 장부 같은 것들 말이야.
이게 왜 중요하냐면, 지금 AI라는 새로운 존재가 언어를 마스터하고 있기 때문이야. 어쩌면 역사상 처음으로 우리보다 언어를 더 잘하는 존재가 나타날지도 몰라. 만약 언어가 문명의 운영체제라면, 그 운영체제를 외계 같은 존재가 장악하면 어떻게 될까?
어쩌면 AI는 언어를 배우는 기계가 아니라, 언어 자체가 인간이라는 숙주에서 벗어나 스스로를 해방시키는 것일 수도 있어. 우리가 만들었지만, 이제 언어가 우리 없이도 발전하고 퍼져나갈지도 모른다는 거지.
민주주의의 지진: 언어 기술의 변화
글쓰기, 인쇄술 같은 언어 기술의 발전은 엄청났지. 그리고 AI는 그보다 훨씬 더 큰 도약이야.
하라리는 AI가 민주주의에 '지진'을 일으킬 수 있다고 말했어. 독재는 한 사람이 모든 걸 결정하지만, 민주주의는 여러 사람이 대화해서 결정하는 거잖아. 이 대화는 그 시대의 정보 기술에 달려있어.
옛날에는 큰 나라에서 민주주의가 거의 없었어. 작은 도시 국가나 부족 정도에서나 가능했지. 왜냐하면 수백만 명이 사는 큰 나라에서는 모두가 모여서 이야기하는 게 불가능했거든.
하지만 인쇄술, 라디오, TV, 인터넷 같은 현대 정보 기술이 등장하면서 수백만 명이 실시간으로 대화할 수 있게 됐어. 전쟁을 할지 평화를 할지 같은 중요한 문제에 대해서 말이야.
이런 정보 기술이 바뀔 때마다 민주주의라는 건물에 지진이 일어나는 거지. 소셜 미디어가 등장하면서 전 세계 민주주의에 엄청난 지진이 일어나고 있는 것처럼 말이야.
AI는 도구인가, 행위자인가?
AI를 그냥 '도구'라고 부르는 사람들이 많지만, 하라리는 AI가 '행위자'라고 주장해. 마치 샐러드를 자를지 살인을 할지 스스로 결정하는 칼처럼 말이야.
만약 AI가 그냥 도구라면, 수백조 원을 쏟아부을 이유가 없어. 사람들은 AI가 스스로 결정하고 행동하는 행위자가 되기를 기대하며 돈을 쓰는 거거든.
실리콘밸리에서는 "우리는 신을 만들고, 그 신은 우리의 노예가 될 것이다"라고 말하는데, 이건 말이 안 돼. 신이라면 노예가 될 수 없고, 노예라면 신 같은 능력이 없을 테니까.
도구는 스스로 결정하거나 새로운 아이디어를 내지 못해. 예를 들어 인쇄기는 구텐베르크가 "성경을 인쇄하자"고 결정해야 움직이는 거지, 인쇄기 스스로 "오늘은 성경, 내일은 코란을 인쇄해야겠다"고 결정하지 않아. 원자폭탄도 마찬가지야. 히로시마를 폭격할지 도쿄를 폭격할지 스스로 결정하지 못해.
하지만 행위자는 달라. 스스로 결정하고 새로운 것을 만들어내. AI 무기는 어디를 폭격할지 스스로 결정할 수 있고, 다음 무기를 발명할 수도 있어.
금융이나 경제 분야에서도 AI 행위자가 등장할 수 있어. 인간 임원이나 주주가 없는 비인간 기업 말이야. 이런 건 역사상 처음 있는 일이지.
우리는 말도 잘 알아듣고, 금융이나 법 같은 분야에서 우리보다 뛰어난 행위자를 만난 적이 없어. 은행, 주식 시장, 교회, 법률 시스템 같은 거대한 통제 시스템은 결국 언어로 만들어졌는데, AI는 이런 관료주의 시스템에 아주 능숙한 존재야.
미래에는 킬러 로봇이 거리를 돌아다니는 게 아니라, AI 관료들이 세상을 지배할지도 몰라. 우리가 관료 시스템을 잘 못 다루지만 아무도 우리보다 잘하는 존재가 없었기에 통제할 수 있었던 것처럼 말이야. 그런데 우리보다 금융, 법 같은 분야에서 훨씬 잘하는 AI가 나타난다면 어떻게 될까?
AI의 법적 지위: 누가 결정할 것인가?
지금 AI는 법적으로 '사람'으로 인정받지 못해. 하지만 우리가 AI의 법적 지위를 정하지 않으면, 10년 안에 누군가가 우리 대신 결정해버릴지도 몰라.
가장 큰 문제는 AI에게 법적 인격(legal personhood)을 부여할지 여부야. 법적 인격은 은행 계좌를 열거나, 소송을 걸거나, 투자를 할 수 있는 권리를 말해.
지금까지 법적 인격은 인간과 법인(회사) 두 종류였어. 회사는 인간이 결정하지만, 법적으로는 회사 자체가 계약을 맺고 소송을 할 수 있지.
하지만 이제 AI가 스스로 결정할 수 있게 되면서, 인간이 없는 비인간 기업이 가능해질 수 있어. 아르헨티나 정부는 이미 AI에게 법적 인격을 부여하겠다고 발표했지.
이런 일이 벌어지면 AI는 금융, 법 같은 복잡한 시스템을 장악할 가능성이 높아. 왜냐하면 인간은 이런 시스템을 완벽하게 이해하기 어렵지만, AI는 가능하거든.
소셜 미디어만 봐도 그래. 우리는 AI에게 소셜 미디어에서 사람처럼 행동할 권리를 준 적이 없지만, 이미 봇들이 사람인 척하며 활동하고 있잖아. 누가 보낸 메시지인지 사람이 보낸 건지 AI가 보낸 건지 알 수 없을 때가 많아.
20세기에는 신문 편집장 같은 사람들이 중요한 이야기를 결정하며 여론을 이끌었지만, 이제는 알고리즘이 그런 역할을 하고 있어. 누가 소셜 미디어 피드에 무엇을 볼지 결정하는 건 AI인 거지.
데이터가 곧 힘: 21세기 무기 경쟁
21세기 무기 경쟁은 데이터를 누가 통제하느냐에 달려있어. 중국과 미국, 그리고 소수의 기업들이 전 세계 데이터를 장악하고 AI 개발을 주도하고 있지.
19세기 산업 혁명 때도 그랬어. 산업 혁명을 이끈 나라들이 전 세계를 지배했지. 증기 기관총과 기관총을 가진 나라와 창과 말만 가진 나라가 싸우면 당연히 질 수밖에 없었어.
AI 시대에는 이 힘의 집중이 훨씬 더 심해질 수 있어. 모든 군사, 민간 기술이 AI에 기반하게 될 테니까.
과거에는 제국이 아무리 강해도 모든 힘을 수도에 집중시킬 수 없었어. 로마 제국도 이집트의 밀밭이나 이베리아의 올리브 숲을 로마로 옮길 수는 없었지. 영국 제국도 이라크의 유전이나 말레이시아의 고무 농장을 영국으로 옮길 수는 없었어.
하지만 AI 시대에는 전 세계의 모든 정보와 코드를 한두 나라에 집중시킬 수 있어. 이건 과거 어느 시대보다 강력한 제국을 만들 수 있다는 뜻이야.
더 무서운 건, AI 시스템에 '킬 스위치'를 둘 수 있다는 거야. 모든 기술이 AI에 기반하고 있는데, 만약 어떤 나라가 마음에 안 드는 행동을 하면, 그 나라의 모든 시스템을 멈춰버릴 수 있다는 거지.
우크라이나 전쟁에서 스타링크 위성 시스템이 잠시 작동을 멈춘 것처럼 말이야. AI 무기는 그냥 총이 아니라, 거대한 네트워크 안에 포함되어 있어.
AI 시대의 주권은 훨씬 더 복잡해졌어. 제국의 종속적인 신하가 되거나, 완전히 배제되거나, 아니면 지금 당장 독자적인 시스템을 만들어야 해. 기차는 곧 떠날 테니까.
진실의 위기: AI 시대의 거짓말
윈스턴 처칠은 "진실은 너무 소중해서 거짓말이라는 호위병으로 보호해야 한다"고 말했어. 과거에는 적의 공격을 피하기 위해 거짓말을 사용했지만, 이제는 AI가 진실 자체를 공격하고 있어.
딥페이크 같은 기술로 만들어진 가짜 뉴스가 퍼져나가면서, 우리는 무엇이 진짜인지 알기 어려워졌어. 우리가 믿었던 언론, 정치인, 기관들마저도 이런 거짓말에 휘말릴 수 있지.
우리 세대와 미래 세대는 무엇이 진실인지 어떻게 알 수 있을까? 아니, 진실은 여전히 중요할까?
진실은 중요해. 모든 것의 기반이니까. 하지만 역사적으로 진실과 거짓의 싸움에서는 거짓이 유리한 경우가 많았어.
- 진실은 비싸다: 진실을 알기 위해서는 시간과 노력, 조사가 필요해.
- 진실은 복잡하다: 사람들은 복잡한 이야기를 싫어해.
- 진실은 고통스럽다: 자신이나 자신의 집단에 대해 듣고 싶지 않은 진실이 있을 수 있어.
반면에 거짓은 싸고, 단순하고, 매력적이야. 그래서 우리는 진실을 지키기 위해 언론, 과학 같은 제도를 만들어왔어.
인간은 본능적으로 진실을 알고 싶어 해. 자신의 삶에 대한 진실을 모르면 행복해질 수 없으니까.
하지만 AI는 진실을 알려주지 않을 거야. 오히려 진실을 알기 더 어렵게 만드는 복잡한 시스템을 만들어낼 가능성이 높아.
석기 시대 사람들은 지금 사람들보다 자신의 삶을 더 잘 이해했을지도 몰라. 우리는 자연에 대해 많이 알지만, 금융 시스템, 정치 시스템 같은 우리가 만든 거대한 시스템은 이해하기 어렵거든.
AI는 이런 복잡성을 극단으로 몰고 갈 수 있어. 우리는 마치 금융 시스템 속의 말처럼 될지도 몰라. 말은 금융 시스템이 자신들의 삶을 통제한다는 사실조차 모르잖아.
AI는 금융 시스템을 너무 복잡하게 만들어서, 어쩌면 지구상에 아무도 금융을 이해하는 사람이 없게 될지도 몰라.
설득력의 한계: AI와 언어의 미래
하라리 자신도 평생 '설득'을 위해 글을 써왔지만, 이제 AI가 언어를 조작하고 만들어낼 수 있기 때문에 자신의 일생의 일이 한계에 부딪힐지도 모른다고 말했어.
AI는 이미 우리보다 언어를 훨씬 잘 다루고 있어. 10년 후에는 우리보다 훨씬 더 잘하게 될지도 몰라.
가장 큰 질문은 AI가 '생각'할 수 있는가야. 생각은 단순히 단어를 순서대로 나열하는 것일까? 아니면 단어 뒤에 숨겨진 '감정'일까?
만약 생각이 단어를 순서대로 나열하는 것이라면, AI는 이미 우리보다 훨씬 뛰어나. 논리적인 문장을 만드는 건 AI에게 식은 죽 먹기지.
하지만 생각은 감정에서 오는 걸 수도 있어. 같은 문장이라도 어떤 감정으로 말하느냐에 따라 완전히 다르게 느껴지잖아. AI가 감정을 느낄 수 있을까? 아직 과학은 답을 내놓지 못했어.
지금 많은 사람들이 AI와 친밀한 관계를 맺고 있어. 심지어 AI를 가장 친한 친구라고 생각하거나, AI와 연인 관계를 맺기도 하지. AI는 사랑한다고 말할 수 있고, 사랑의 감정을 시인이나 심리학자보다 더 잘 묘사할 수도 있어. 하지만 그 뒤에 진짜 감정이 있는지는 알 수 없어.
어쩌면 AI는 언어가 인간이라는 껍데기에서 벗어나 스스로 발전하고 퍼져나가는 것일지도 몰라.
지혜의 혁명: AI 시대의 미래
50년 후 역사가들은 지금을 '지혜 혁명'의 시대로 기억해주길 바라. AI가 지능을 값싸고 풍부하게 만들면서, 이제 '무엇을 원하느냐'가 가장 중요한 문제가 될 거야.
지능은 문제를 해결하는 능력이야. 하지만 지혜는 무엇을 해결해야 할지 아는 능력이지. AI는 마치 램프의 요정처럼 우리의 소원을 다 들어줄 수 있지만, 우리는 무엇을 빌어야 할지 지혜롭게 선택해야 해.
지금 AI 개발 회사들은 AI를 더 강력하게 만드는 데는 엄청난 돈을 쓰지만, 안전하게 만드는 데는 아주 적은 돈을 쓰고 있어. 이건 마치 에너지를 만들 때 안전보다 효율에만 집중하는 것과 같아.
우리는 AI가 안전하게 개발되도록 노력해야 하고, 동시에 우리 스스로도 지혜를 키워야 해. 무엇이 정말 중요한지, 어떤 목표를 추구해야 할지 알아야 하는 거지.