앤트로픽 CEO 다리오 아모데이, AI 시대 성공 비결과 경영 철학 전격 공개!

AI 세상의 리더, 안트로픽의 이야기

잠 못 이루는 밤과 빠르게 흘러가는 시간

• 잠은 잘 자는 편이야? 나는 잠을 잘 못 자는 편이야. 압박감이 심할 때도 편안하게 잠들 수 있는 방법을 배우고 있지.
• 모든 게 너무 빨리 변하는데, 안에서는 어떤 느낌이야? 마치 우주선 타고 지구에서 멀어지는 느낌 같아. 눈 깜짝할 사이에 지구에서는 며칠이 지나버리고, 그걸 따라가려면 정신이 없지.
• 매일 아침 뭘 보게 될지 걱정돼? 걱정보다는 지금 당장 해결해야 할 문제들에 집중하고, 어떻게 대비할지 생각하고 있어. 불안해하는 건 도움이 안 돼. 역사적으로 압박감 속에서 현명하게 대처한 사람들을 보면, 감정에 휩쓸리지 않고 이성적으로 판단했어.

AI 시대의 중심에서

• 지금 AI 분야의 중심에 있는데, 기분이 어때? 내 경력 내내, 특히 안트로픽에서 일하면서 느낀 건, 처음에는 아무 일도 없는 듯하다가 갑자기 모든 게 폭발적으로 변한다는 거야. 마치 그래프가 쭉 올라가다가 어느 순간 휙 꺾이는 것처럼 말이지.
• 어릴 때 샌프란시스코에서는 어떤 아이였어? 아빠는 가죽 공예가, 엄마는 도서관에서 일하셨어. 그때는 인터넷 혁명이 일어나고 있었지만, 나는 수학이나 우주를 이해하는 데 더 관심이 많았지. SF 소설도 좋아했고.
• 기술의 중심지에서 자란 게 너의 세상을 보는 방식에 영향을 줬어? 샌프란시스코는 틀에 박히지 않고 개성을 존중하는 분위기가 있어. 남들과 다른 생각을 해도 괜찮다는 점이 나에게도 영향을 준 것 같아. 실리콘밸리에 비판적인 부분도 많지만, 이런 점은 좋다고 생각해.

오픈AI를 떠난 이유와 AI의 미래

• 오픈AI를 떠난 이야기는 실리콘밸리의 전설이 됐는데, 진짜 무슨 일이 있었던 거야? 복잡한 기술을 만들다 보면 안전 문제 등 어려운 결정들을 많이 해야 해. 안전에 대한 의견 충돌은 있었지만, 그것만으로는 회사를 떠나지 않아. 하지만 신뢰할 수 없고, 가치관이 다르다고 느껴질 때, 정직하지 않다고 느껴질 때, 함께 일하기 어려워. 비전을 공유하지 못하고 신뢰가 없을 때, 각자 길을 가는 게 맞다고 생각해.
• 인도 AI 정상회담에서 샘 알트만과 손을 잡지 않은 사진이 화제가 됐는데, 무슨 일이었어? 회담이 너무 혼란스러웠어. 갑자기 순서가 바뀌고, 사진 찍으라고 해서 손을 잡으라고 했는데… 뭐, 그런 일도 있었지.
• AI를 만드는 사람들이 서로 손도 잡지 못하는데, 인류의 미래를 어떻게 믿을 수 있을까? AI를 만드는 사람들 중에도 믿을 수 있는 사람과 그렇지 않은 사람이 있어. 중요한 건 믿을 수 있는 사람들이 힘을 합쳐서 모두가 같은 기준을 따르도록 만드는 거야. 서로에게 좋은 영향을 주고받으며 발전하는 게 중요하지.

비즈니스와 가치의 균형

• 처음부터 코딩과 기업용 AI에 집중했는데, 왜 그런 선택을 했어? 우리는 AI를 제대로 만들고 싶었어. 그러려면 회사가 있어야 하고, 사업 모델도 필요했지. 사업 모델이 우리의 가치와 충돌하지 않도록 하는 게 중요했어. 소셜 미디어처럼 사람들의 관심을 끌어 광고 수익을 얻는 모델보다는, 기업용 AI가 사람들에게 더 유용하고 긍정적인 영향을 줄 수 있다고 생각했어.
• 개발자들이 클로드에서 GPT나 제미나이로 쉽게 옮겨갈 수 있는데, 이 업계에서 오래가는 리드를 잡을 수 있을까? 모델의 품질이 가장 중요해. 우리는 지금 모델 품질에서 앞서나가고 있어. 사람들이 쉽게 옮겨갈 수 있다는 걸 알기에, 더 좋은 모델과 제품을 만들기 위해 노력하고 있어.

AI 시대의 소프트웨어와 일자리

• AI가 발전하면서 기존 소프트웨어는 얼마나 대체될까? 예측하기 어렵지만, 소프트웨어 회사들이 가진 강점 중 일부는 사라지겠지만, 고객과의 관계나 전문 지식 같은 다른 강점들은 계속 중요할 거야. 변화에 적응하지 못하면 어려움을 겪을 수밖에 없어.
• AI 때문에 일자리가 줄어들까 봐 걱정인데, 어떻게 대비해야 할까? AI가 사람들을 더 생산적으로 만들어주지만, 결국에는 새로운 일자리를 찾아야 해. 단순히 기술 발전만 보는 게 아니라, 사회 정책이나 새로운 직업에 대한 고민도 함께 해야 해. AI가 가져올 변화를 미리 예측하고 대비하는 것이 중요해.
• 5년 뒤 이 나라는 어떤 모습일까? 사람들이 뭘 하고 있을까? 혁명이 일어나지 않도록 막는 것이 중요해. 물리적인 세계에서 할 일이 많아질 거고, 사람 중심의 일자리도 중요해질 거야. AI가 더 발전하더라도, 결국에는 인간의 가치와 의도를 따르는 방향으로 나아가야 해.

AI와 윤리, 그리고 미래

• AI가 스스로를 발전시키고 통제 불능이 될 수도 있다는 이야기가 있는데, 어떻게 생각해? AI 발전은 멈추지 않을 거야. 중요한 건 우리가 기술 발전에 맞춰 우리의 대응 방식도 함께 발전시키는 거야. 갑자기 놀라서 규제를 하거나, 반대로 모든 걸 막으려고 하는 극단적인 반응은 도움이 안 돼.
• 원자폭탄 제조 과정을 다룬 책을 좋아한다고 했는데, 오펜하이머와 자신을 비교하자면? 나는 오펜하이머보다는 레오 실라드와 더 비슷하다고 생각해. 중요한 건 개인의 힘이 아니라, 여러 세력이 균형을 이루는 거야. AI 회사들도 정부도 모두 책임을 가지고 신중하게 접근해야 해.
• 문명 붕괴 가능성이 10~25%라고 했는데, 혹시 안트로픽이 만든 AI 때문에 그런 일이 생길 수도 있을까? 우리는 그런 일이 일어나지 않도록 노력하고 있어. AI는 예측 불가능한 면이 있지만, 우리는 더 안전한 AI를 만들기 위해 최선을 다하고 있어. 마치 비행기가 추락할 확률이 25%라면 아무도 타지 않겠지만, 우리는 그 확률을 훨씬 낮추기 위해 노력하는 거야.
• 왜 우리가 당신을 믿어야 할까? 우리는 처음부터 우리의 가치를 지키기 위해 노력해왔어. 상업적인 이익보다 중요한 가치가 있다는 것을 보여주기 위해 어려운 결정도 해왔지. 우리는 완벽하지 않지만, 옳은 일을 하려고 진심으로 노력하고 있다는 것을 행동으로 보여줄 거야.