Anthropic CEO 다리오 아모데이: 폭풍 속 AI 리더의 고뇌, 그의 비밀 전략은?

AI 세상의 리더, 안트로픽의 이야기

1. 잠은 얼마나 자?

요즘 잠을 잘 못 자고 있어. 압박감이 심할 때도 편하게 잠들 수 있는 방법을 배우고 있거든. 모든 게 너무 빨리 변하니까.

2. 속으로 어떤 느낌이야?

마치 우주선 타고 엄청 빨리 지구를 떠나는 느낌이야. 특수 상대성 이론처럼, 잠들었다 깨어나면 지구에서는 이틀이 지나있고, 그걸 하루 만에 처리해야 하는 거지. 또 자고 일어나면 사흘이 지나있고… 뭐 그런 느낌이야.

3. 밤마다 불안해서 잠 못 자?

지금 당장 해결해야 할 문제들이 너무 많아서, 그걸 처리하면서 미래를 준비하고 있어. 하지만 불안해하거나 걱정하는 건 도움이 안 된다고 생각해. 역사적으로 힘든 상황을 겪었던 사람들을 보면, 이성적으로 대처하고 위험을 과대평가하지 않았어.

4. '걱정 안 해'와 '당장 패닉이야' 사이를 왔다 갔다 하는 건?

그건 아직 어른스럽지 못한 결정 방식이야. 진짜 어른스러운 결정은 '이걸 무시할 수 없어. 방심하면 안 돼. 오히려 위험이 커지고 있어.'라고 생각하면서도, 의사처럼, 군인처럼, 많은 사람에게 영향을 주는 결정을 하는 사람처럼 이성적으로 대처하는 거야. 위험을 이해하면서도 침착함을 유지해야 해.

5. AI가 세상을 바꾸고 있어!

• AI의 발전 속도: 처음에는 아무 일도 없는 것 같다가 갑자기 엄청나게 빨라져. 마치 우주선이 가속하는 것처럼 말이야.
• 우리 회사(안트로픽)의 성장: 처음에는 천천히 가다가 갑자기 엄청난 속도로 성장했어. 그래프를 보면 예상했던 일이지만, 실제로 겪으니 정말 놀라워.
• 우리의 목표: 좋은 모델을 만들고, 좋은 제품에 넣고, 안전하게 만들고, 사람들이 AI로 도움을 받도록 하면서도 사회적 위험을 관리하는 거야.

6. 어릴 적 나는?

어릴 때는 수학이랑 우주를 이해하는 데 관심이 많았어. SF 소설도 좋아했고. 인터넷 혁명이 일어나고 있었지만 전혀 관심 없었지. 그냥 세상에 대한 호기심이 많았어.

7. 실리콘밸리의 영향?

실리콘밸리의 '틀에 얽매이지 않고 개성 있게 생각해도 괜찮다'는 분위기가 나에게 영향을 준 것 같아. 다른 곳에서는 이상하게 볼 수 있는 생각도 여기서는 존중받으니까.

8. 오픈AI를 나온 이유?

안전 문제로 의견 충돌이 있었지만, 그게 전부라면 회사를 나오지 않았을 거야. 하지만 신뢰할 수 없고, 말과 행동이 다르며, 정직하지 않다고 느꼈을 때 함께 일하기는 어려워. 비전이 다르고 서로 믿지 못하면 각자 길을 가는 게 맞다고 생각해.

9. 인도 AI 정상회담에서 샘 알트만과 손 안 잡은 일?

정말 혼란스러웠어. 갑자기 순서가 바뀌고 사진 찍으라고 해서 손을 잡으라고 했는데, 나는 안 잡았어. 그냥 혼란스러웠을 뿐이야.

10. AI 경쟁, 누가 믿을 수 있을까?

AI를 만드는 사람들 중에는 믿을 수 있는 사람도 있고, 그렇지 않은 사람도 있어. 믿을 수 있는 사람들이 힘을 합쳐서, 그렇지 않은 사람들도 같은 기준을 따르도록 만들어야 해. 서로에게 좋은 영향을 주고받으면서, 또 누가 더 잘하는지 경쟁하면서 말이야.

11. 왜 코딩과 기업용 AI에 집중했어?

우리의 가치를 지키면서 회사를 운영하려면 사업 모델이 중요해. 소셜 미디어처럼 사람들을 중독시키는 모델보다는, 기업용 AI처럼 사람들에게 실질적인 도움을 주는 모델이 우리의 가치와 더 잘 맞아. 기업은 신뢰와 장기적인 관계를 중요하게 생각하니까, 우리의 목표와도 잘 맞지.

12. AI 시대, 소프트웨어 산업은 어떻게 될까?

AI 때문에 일부 소프트웨어는 사라지겠지만, 고객 관계, 전문 지식 등 다른 강점들은 계속 중요할 거야. 변화에 잘 적응하는 회사들은 더 성장할 거고, 그렇지 않은 회사들은 어려움을 겪을 거야. 전체적으로는 소프트웨어 산업이 더 커질 거라고 생각해.

13. 투자자들과의 관계?

아마존, 구글 같은 회사들이 우리에게 투자했지만, 우리는 우리의 생각을 솔직하게 말해. 그들이 동의하지 않더라도 말이야. 우리는 서로에게 좋은 파트너가 될 수 있고, 다른 의견이 있다고 해서 함께 일하지 못하는 건 아니야.

14. 거의 1조 달러 가치? 돈은 왜 이렇게 많이 필요해?

AI 기술 발전 속도가 정말 빨라서, 앞으로 더 많은 컴퓨팅 파워가 필요할 거야. 지금 돈을 많이 모아두는 건 불확실성에 대비하기 위한 합리적인 선택이야.

15. 서버 문제, 컴퓨팅 파워는 충분해?

우리는 10배씩 성장할 거라고 예상하고 컴퓨팅 파워를 준비했어. 그런데 예상보다 훨씬 더 빠르게 성장하고 있어서, 지금은 좀 부족할 수 있지만, 시장은 유동적이라서 필요한 만큼 확보할 수 있을 거야.

16. 경쟁사를 이기는 기분은?

경쟁사를 이기는 것보다, 우리가 생태계를 이끌어가는 데 집중하고 있어. 우리가 더 나은 모델과 제품을 만들면, 다른 회사들도 따라오게 될 거야. 물론 이기는 건 기분 좋은 일이지!

17. 가치를 지키는 어려움?

회사가 커질수록 새로운 도전들이 생겨. 하지만 우리는 항상 우리의 가치를 지키려고 노력해. 회사의 문화와 가치를 지키는 것이 우리의 최우선 과제야.

18. 어떻게 이렇게 빠르게 발전해?

첫째는 우리 회사의 단결된 문화와 효율성이고, 둘째는 클로드 자체야. 클로드를 사용해서 모델 개발과 제품 생산을 더 효율적으로 하고 있어.

19. AI가 보여준 가장 놀라운 점?

생물학이랑 의학 분야에서 AI가 정말 놀라운 일을 하고 있어. 의사들이 놓친 병을 진단하거나, 신약 개발에 도움을 주는 것처럼 말이야. 앞으로 AI 덕분에 삶의 질이 훨씬 좋아질 거라고 믿어.

20. 글쓰기에 클로드 사용해?

아이디어를 얻거나, 주제를 정리하는 데 클로드를 사용해. 하지만 내가 직접 쓰는 것처럼 완벽하게 글을 쓰지는 못해서, 아직은 내가 직접 쓰는 부분을 더 중요하게 생각해.

21. AI 때문에 일자리가 사라질까?

AI 때문에 일자리가 줄어들 수 있다는 건 사실이야. 하지만 이건 재앙이 아니라 우리가 해결해야 할 문제야. 새로운 정책이나 다른 방법을 통해 이 문제를 해결할 수 있다고 믿어.

22. AI와 군사력?

미국이 AI 기술을 통해 군사력을 강화하는 것은 전쟁을 막는 데 도움이 된다고 생각해. 하지만 AI가 전쟁에 사용되는 방식에 대해서는 신중해야 해. 우리는 우리의 가치에 반하는 사용은 하지 않을 거야.

23. 팔란티어와의 협력?

우리는 팔란티어를 통해 ICE나 CBP와 협력하지 않아. 우리는 우리의 가치에 맞는 일만 하려고 노력해.

24. AI 군사화, 어떻게 생각해?

AI 기술이 군사적으로 사용되는 것에 대해 찬성하지만, 그 사용 방식에 대해서는 신중해야 해. 우리는 우리의 가치에 반하는 사용은 막을 거야.

25. AI 때문에 전쟁이 더 쉬워질까, 막아질까?

AI를 올바르게 사용하면 전쟁을 막는 데 도움이 될 수 있어. 하지만 통제되지 않으면 오히려 위험해질 수 있지.

26. '미토스' 모델, 왜 공개 안 해?

미토스는 엄청난 보안 취약점을 찾아내고 공격 코드를 만드는 데 뛰어나. 이걸 공개하면 악용될 수 있기 때문에, 지금은 보안 전문가들에게만 제한적으로 공개하고 있어.

27. 오픈소스 모델로 미토스 따라 할 수 있다는 말?

그건 사실이 아니야. 미토스는 코드 전체를 분석해서 취약점을 찾아내는데, 오픈소스 모델은 특정 코드만 볼 수 있어.

28. AI 때문에 더 안전한 인터넷이 될까?

우리가 미토스를 통해 취약점을 찾아내고 패치하면, 인터넷이 더 안전해질 수 있어. 하지만 시간이 걸릴 거야.

29. 정부가 AI 기술을 통제해야 할까?

정부가 AI 기술을 통제하는 것은 중요하지만, 민간 기업이 주도하는 현재 상황은 불안정하다고 생각해. 정부와 기업이 서로 견제하고 균형을 맞춰야 해.

30. 중국의 AI 기술, 위협인가?

중국의 AI 기술이 발전하는 것은 우려스럽지만, 우리는 더 똑똑하고 안전한 AI를 만드는 데 집중할 거야.

31. AI가 스스로 발전하는 시점은?

AI가 스스로를 개선하는 것은 이미 시작되었고, 앞으로 더 가속화될 거야. 우리는 이 과정을 면밀히 지켜보면서 안전 장치를 강화해야 해.

32. 오펜하이머와 비교?

나는 레오 실라드처럼, 새로운 아이디어를 제시하고 그 결과를 신중하게 생각하는 사람에 더 가깝다고 생각해.

33. AI 때문에 문명 붕괴 가능성?

AI 기술 자체보다는, 그걸 어떻게 사용하느냐에 따라 위험이 달라져. 우리는 위험을 줄이기 위해 노력하고 있어.

34. 왜 우리를 믿어야 해?

우리는 우리의 가치를 지키기 위해 노력해왔고, 앞으로도 그럴 거야. 우리의 행동을 보고 판단해 주길 바라.

35. AI와 일자리, 미래는?

AI 때문에 일자리가 줄어들 수 있지만, 새로운 일자리도 생겨날 거야. 우리는 이 변화에 대비하고 긍정적인 방향으로 나아가야 해.