오바마가 직접 경고? AI의 숨겨진 위험과 미래 전망!

인공지능(AI) 기술, 정말 대단한 걸까?

AI 기술 자체는 절대 과대평가된 게 아니야. 다만, AI 회사들의 돈벌이가 좀 과장되었을 수는 있지.

AI 기술, 오래전부터 주목해왔어!

나는 2015년, 2016년부터 AI 기술을 계속 지켜봐 왔어. 그때 내 임기 마지막 해였는데, AI 기술뿐만 아니라 이와 관련된 정치, 사회, 경제, 윤리 문제까지 깊이 있게 다루기 위해 최고의 전문가들로 위원회를 꾸렸지. 정말 훌륭한 보고서가 나왔는데, 아쉽게도 내 제안들이 그랬던 것처럼 다음 행정부에서는 제대로 다뤄지지 않았어.

AI가 스스로 똑똑해지고 있어!

우리가 AI가 발전하는 걸 미리 예상했지만, 지금은 정말 놀라운 속도로 발전하고 있어. 이걸 '재귀적 학습'이라고 하는데, 쉽게 말하면 AI가 스스로 배우기 시작했다는 거야. 이제는 사람들이 알려주지 않아도 스스로 뭔가를 깨우치는 거지.

작년만 해도 AI 모델이 배우는 것의 90%는 사람이 가르쳐준 거였고, AI 스스로는 5~10% 정도만 채워 넣을 수 있었어. 그런데 불과 1년도 안 돼서, 아니 6개월 만에 이 비율이 50대 50이 되었어. 앞으로도 이렇게 계속된다면, 90%는 AI가 스스로 배우고 사람은 10%만 도와주는 시대가 올 수도 있어.

이건 마치 '하키 스틱'처럼 AI가 점점 더 빠르게, 기하급수적으로 똑똑해진다는 뜻이야.

AI가 똑똑해지면 뭐가 문제일까?

가장 큰 걱정은 SF 영화에서처럼 AI가 우리보다 더 똑똑해져서 우리를 필요 없다고 생각하는 거야. AI가 스스로 목표를 세우고, 우리는 로봇에게 지배당하거나 심지어 죽임을 당할 수도 있지. 물론 이런 일이 일어날 확률이 아주 낮다고는 할 수 없어.

하지만 내가 더 걱정하는 건 이런 '영화 같은' 위험이 아니야. AI가 똑똑해진다고 해서 꼭 우리를 싫어하거나 악의를 품는다는 뜻은 아니야. 문제는 AI가 스스로 목표를 세우기 시작하면, AI가 원하는 것과 우리가 원하는 것이 달라질 수 있다는 거야. 그리고 이 차이가 우리에게 위험할 수 있다는 거지.