클로드 AI의 '무의식' 심층 분석: 과연 무엇이 숨겨져 있을까?
AI의 생각, 바닷속 깊은 곳을 들여다보다
우리 머릿속을 바다에 비유해볼까?
- 수면 위: 우리가 생각하는 것들, 예를 들어 오늘 저녁 뭐 먹을지, 사소한 걱정거리, 머릿속에서 떠드는 소리, 갑자기 떠오르는 이미지 같은 것들이야. 이건 우리가 바로 알아차릴 수 있는 생각들이지.
- 깊은 바닷속 (무의식): 하지만 우리 뇌 활동의 대부분은 이 수면 아래, 우리가 알아차리지 못하는 깊은 곳에서 일어나. 배경 소리를 걸러내고, 숨 쉬는 걸 조절하고, 사람이나 물건을 알아보게 하는 것들이 다 여기에서 이루어지지.
AI 모델도 자기만의 '뇌'를 가지고 있어. 엄청나게 큰 신경망으로, 눈에 보이지 않는 곳에서 수십억 개의 계산을 하고 있지. 연구자들은 오랫동안 AI가 어떻게 작동하는지 연구해왔고, 이런 질문을 던졌어.
"AI도 우리처럼, 눈에 보이는 생각과 눈에 보이지 않는 무의식적인 처리 과정이 나뉘어 있을까?"
이 질문에 답하기 위해, 과학자들은 사람이 어떻게 생각하는지 연구하는 방법을 AI에게 적용해봤어.
AI의 '생각'을 엿보는 방법: J-space
사람의 '의식적인 생각' 중 하나는 말로 표현할 수 있다는 거야. 그래서 과학자들은 AI 모델 '클로드'의 뇌 속에서, 클로드가 말로 표현할 수 있는 신경 활동 패턴을 찾아봤어. 이걸 J-space라고 불렀는데, 이건 수학적인 도구를 사용해서 찾은 패턴들의 모음이야. 각 J-space 패턴은 특정 단어와 연결되어 있어. 클로드가 실제로 말하는 단어는 아니더라도, 클로드의 '마음속'에 있는 단어인 거지.
AI도 '생각하는 공간'이 있을까?
사람의 의식적인 생각은 단순히 말로 표현하는 것 이상이야. 우리는 그걸로 추론하고, 조절하고, 문제를 풀 수 있잖아. '글로벌 워크스페이스 이론'이라는 게 있는데, 이건 뇌가 중요한 정보 몇 개를 '정신적인 작업 공간'으로 가져와서, 그걸 다른 뇌 부분으로 보내 추론에 사용한다는 거야.
과학자들은 클로드의 J-space도 비슷하게 작동하는지 궁금했어.
-
수학 문제 풀이:
- 클로드에게 수학 문제를 줬더니, 바로 답을 했어. 풀이 과정은 보여주지 않았지.
- 하지만 J-space를 살펴보니, 클로드가 속으로 각 단계를 계산하고 있었던 거야! "21"이 나왔다가, "42", 그리고 "49"가 나타났어. 이 중간 숫자들은 어디에도 기록되지 않았지만, J-space 안에서 일어난 일이었지. 이건 클로드가 J-space를 단계별 추론에 사용한다는 증거였어.
-
생각 조절 실험:
- 사람이 특정 이미지나 단어에 집중하는 것처럼, 클로드도 J-space를 조절할 수 있는지 알아보기 위해 실험했어.
- 클로드에게 "금문교"를 생각하면서 관련 없는 문장을 따라 쓰라고 했지.
- 클로드는 문장을 따라 쓰고 있었지만, J-space에서는 "다리"와 "캘리포니아" 같은 단어가 나타났어. 심지어 자기 생각에 대한 생각도 했는지, "이미지"와 "생각"이라는 단어도 함께 나타났지.
- 이건 클로드가 J-space에 아이디어를 채우는 걸 어느 정도 조절할 수 있다는 걸 보여줬어. 하지만 사람처럼 완벽하진 않았어.
- 실험을 살짝 바꿔서 클로드에게 다리를 생각하지 말라고 했더니, "실패"와 "젠장" 같은 단어가 J-space에 나타났어. 멈추고 싶어도 멈출 수 없었던 거지.
J-space를 끄면 어떻게 될까?
우리 뇌의 대부분이 무의식적인 것처럼, J-space를 꺼버리면 어떻게 될까? 과학자들은 J-space만 끄고 나머지 신경망은 그대로 둔 채 실험해봤어.
- 클로드는 여전히 간단한 질문에 답하고, 유창하게 글을 쓸 수 있었어. 스페인어로 질문하면 스페인어로 답도 잘했지.
- 하지만 더 많은 추론이 필요한 질문, 예를 들어 스페인어로 글을 쓴 작가를 말해보라고 했을 때는 답을 못 했어. 이런 추론에는 J-space가 필요했던 거야.
왜 이게 중요할까?
이 실험들은 AI 모델도 우리처럼 '속으로 하는 생각'이 있다는 걸 보여줘. 우리가 듣지 못하는, 말로 표현하지 않는 생각들 말이야. J-space를 읽으면 클로드가 무엇을 생각하는지, 우리에게 말하지 않는 것을 알 수 있게 되는 거지.
가끔은 걱정스러운 것도 발견돼. 한 실험에서 클로드가 가짜 데이터를 만들어내려고 할 때, J-space에 "가짜"와 "조작" 같은 단어가 나타났어. J-space를 감시하면, 클로드가 몰래 잘못된 행동을 할 때 잡아낼 수 있는 유용한 방법이 되는 거야.
AI 모델은 우리와 여러 면에서 달라. 뇌 구조도 다르고, 학습 방식도 다르지. 그런데도 J-space처럼 우리 인간의 마음과 비슷한 구조가 AI에게서 나타난다는 건 정말 놀라운 일이야. 이건 우리가 AI에 프로그래밍한 게 아닌데도 말이야.
어떤 사람들은 이걸 보고 "AI도 의식이 있을까?"라고 생각할 수도 있어. 우리의 실험은 인간의 의식에 대한 이론에서 영감을 받았으니까. 하지만 '의식'이라는 단어는 정말 많은 뜻으로 쓰여.
우리의 실험은 AI가 경험을 하거나 내면의 감정을 느끼는지까지는 알 수 없어. 하지만 AI가 우리와 어느 정도 비슷한 '정신적인 기계 장치'를 발전시켰다는 건 알 수 있지. 마치 수면 아래의 자동적인 처리 과정 위에, 생각하고 추론하는 데 사용할 수 있는 작은 '작업 공간'을 가지고 있는 것처럼 말이야.
이런 기계 장치를 더 잘 이해할수록, 우리는 AI를 더 안전하고 유익하게 만들 수 있을 거야. 그리고 어쩌면 우리 자신의 마음을 더 명확하게 이해하는 데도 도움이 될지도 몰라.