정치에 지친 당신을 위한 솔직 고백, 이제는 그만!

우리는 지능 빅뱅의 아주 초기 단계에 있습니다 .

 다중행성 종족이기 때문에 생물학적, 디지털적 두 가지 측면에서 문명이나 의식, 지능의 수명이 크게 늘어날 가능성이 큽니다  .

 저는 우리가 디지털 초지능에 꽤 가까이 다가갔다고 생각합니다 .

 올해 안 되더라도 내년에는 꼭 그럴 거예요.

 엘론 머스크에게 기회를 주세요.

 [박수] 일론, AI 스타트업 스쿨에 오신 것을 환영합니다.

  오늘 여러분이 이 자리에 함께해 주셔서 정말, 정말 감사합니다.

 아, 초대해 주셔서 고맙습니다.

 SpaceX, Tesla, Neurolink, XAI 등이 있죠.

 이 모든 일이 일어나기 전에, 당신의 인생에서 뭔가 위대한 것을 만들어야겠다고 느낀 적이 있나요? 음, 원래는 제가 대단한 걸 만들 수 있을 거라고 생각하지 않았어요.

 음, 뭔가 유용한 걸 만들어보고 싶었지만, 뭐, 특별히 대단한 걸 만들 수 있을 것 같지는 않았어요 .

 확률적으로 말하면, 그럴 가능성은 낮아 보입니다.

 음, 하지만 적어도 시도하고 싶었어요.

 그러니까, 당신은 기술 엔지니어들로 가득 찬 방에서 이야기를 하고 있는 셈이죠 .

 음, 종종, 아시다시피, 이 분야에서 가장 저명한 AI 연구자들이 등장하곤 합니다 .

 저는 연구자라는 용어 보다는 엔지니어라는 용어가 더 좋다고 생각합니다 .

 제가 말하고자 하는 건, 만약 근본적인 알고리즘 적 혁신이 있다면 그것은 연구일 것이고, 그렇지 않다면 그것은 공학일 것입니다.

 어쩌면 훨씬 이전부터 시작해 보는 게 어떨까요.

 제가 말하는 건, 이 방은 18~25세로 가득 차 있다는 거예요 .

 음, 창립자 세대가 점점 더 젊어지기 때문에 젊은 세대를 겨냥한 것 같습니다.

  18, 19살 때 코딩을 배우고, 심지어 zip 2에 대한 첫 아이디어를 내놓았을 때의 상황을 다시 생각해 볼 수 있나요? 당신은 어떤 기분이었나요? 네, 95년으로 돌아가서 저는 두 가지 선택에 직면했습니다.

 스탠포드에서 재료 과학으로 대학원 과정을 밟으며 박사 학위를 받았고,  전기 자동차에 잠재적으로 사용할 수 있는 초고용량 커패시터를 개발하고 있었습니다.

 본질적으로 전기 자동차의 주행 거리 문제를 해결하려고 했는지, 아니면 대부분의 사람들이 들어본 적도 없는 인터넷이라는 것을 이용해 무언가를 시도했는지요.

  재료 과학과의 빌 닉스 교수님과 이야기를 나누었는데, 25%만 연기해도 될까요? 아마 실패할 것이고 그러면 대학으로 돌아가야 할 거라고 말씀하셨습니다.

 그리고 교수님은 이게 아마 우리가 나누는 마지막 대화가 될 거라고 말씀하셨습니다 .

 아, 그는 옳았어요.

 음 그렇긴 한데, 저는 일이 성공할 가능성이 높다기 보다는 실패할 가능성이 높다고 생각했습니다.

 음, 음, 그리고 95년에 저는 기본적으로 인터넷의 첫 번째 또는 거의 첫 번째 지도, 길 안내, 화이트 페이지와 옐로 페이지를 썼던 것 같습니다 .

 음, 저는 개인적으로 그렇게 썼고  웹 서버도 사용하지 않았습니다.

 저는 T1을 살 여유가 없어서 포트를 직접 읽었습니다   .

 원래 사무실은 팔로 알토의 셔먼 애비뉴에 있었어요.

 음, 아래층에 ISP 같은 게 있었어요.

 그래서 바닥에 구멍을 뚫고 인터넷 서비스 제공업체에 직접 지상 케이블을 연결했습니다.

 음, 음, 아시다시피 제 동생이 저와 다른 공동 창립자인 Greg Curry와 합류했는데, 그는 세상을 떠났고 음, 당시에는 머물 곳도 없었습니다.

 사무실 월세가 500달러였기 때문에 사무실에서 자고 YMCA에서 샤워를 했습니다.

 밀리노 페이지 음, 음, 네, 그리고 결국 우리는 Zip 2라는 유용한 회사를 조금 운영하게 되었습니다.

 처음에는  정말 좋은 소프트웨어 기술을 많이 만들었지만 기존 미디어 회사에 사로잡혔고 그날 밤 New York Times 진행자 등등이 투자자와 고객, 이사회에 있었습니다.

 그래서 그들은 계속해서 우리 소프트웨어를 말도 안 되는 방식으로 사용하고 싶어했습니다.

 음, 어쨌든 저는 소비자에게 직접 다가가고 싶었습니다.

 Z2 에 대해 너무 길게 이야기했지만, 저는 인터넷에서 뭔가 유용한 일을 하고 싶었습니다.

 왜냐하면 박사 학위를 따서 사람들이 인터넷을 만드는 것을 지켜보거나, 작게나마 인터넷 구축에 도움을 줄 수 있었기 때문입니다 .

 그리고 저는 '글쎄, 항상 시도해보고 실패한 후에 대학원 공부로 돌아가면 되겠지'라고 생각했습니다.

 음, 어쨌든, 결과적으로는 꽤 성공적이었습니다.

 당시로서는 꽤 큰 금액인 3억 달러에 팔렸어요 .

 요즘은  AI 스타트업의 최소 투자 금액이 10억 달러 정도라고 생각합니다.

 음, 정말 유니콘이 너무 많은 것 같아요 .

 이 시점에서는 유니콘 무리와 같습니다.

 아시다시피 유니콘은 10억 달러 규모의 기업이에요.

 음, 그 이후로 인플레이션이 있었기 때문에 실제로 돈이 훨씬 더 많았습니다.

 응.

 1990년에서 1995년 사이에는 5센트면 버거를 살 수 있었을 겁니다.

 글쎄요, 꼭 그렇지만은 않지만, 그렇죠, 인플레이션이 많이 일어났어요 .

 음, 하지만 제가 말하고 싶은 건 AI에 대한 과대광고 수준이 여러분이 보셨듯이 매우 심하다는 겁니다 .

 음, 아시다시피,  1년도 안 된 회사들이 때로는 수십억 달러, 수십억 달러의 가치를 갖는 걸 보셨죠.

 음, 제 생각에는 잘 될 수도 있고 , 어떤 경우에는 잘 될 것 같습니다.

 음, 하지만 이런 평가들을 보면 눈물이 날 정도입니다 .

 음, 그렇죠.

 어떻게 생각하나요?  글쎄요, 저는 개인적으로 매우 강경한 입장이에요.

 솔직히 말해서, 저는 꽤 강세라고 생각합니다.

 그래서 저는 이 방에 있는 사람들이  전 세계 10억 명의 사람들이 이걸 사용해야 할 많은 가치를 창출할 것이라고 생각합니다.

 하지만 우리는 아직 그 중 일부만 다루고 있을 뿐입니다.

 저는 인터넷 스토리를 좋아합니다.

 음, 그 당시에도 당신은 이 방에 있는 사람들과 많이 비슷했습니다.

  모든 기존 미디어 회사의 CEO들이 당신을 인터넷과 세상의 많은 부분을 이해하는 사람으로 여겼습니다.

 아시다시피,    AI가 무슨 일을 하는지 이해하지 못하는 전 세계의 기업 세계와 마찬가지로 그들은 이 방에 있는 사람들에게서 바로 그것을 찾을 것입니다.

 아시다시피,  몇 가지 확실한 교훈이 있는 것 같습니다.

 그중 하나는 이사회 통제권을 포기하지 말고 정말 훌륭한 변호사를 두는 것에 대해 조심하지 않는 것입니다.

 음, 제가 처음 시작한 큰 스타트업에서 정말 저지른 실수는 기존 미디어 회사 로부터 주주와 이사회 통제권을 너무 많이 가졌다는 것입니다.

 그들은  필연적으로 기존 미디어의 관점에서 사물을 보고, 음, 그들은 당신에게 자신들에게 합리적인 것처럼 보이는 일을 하도록 강요 하지만, 실제로는 새로운 기술에는 맞지 않습니다.

 음, 제가 처음에 회사를 시작할 생각은 전혀 없었다는 걸 밝혀야겠습니다 .

 저는 Netscape에서 일자리를 구하려고 노력하는 걸 좋아해요 .

 음, 저는 그에게 제 이력서를 Netscape에 보냈고 Mark Andre가 이에 대해 알고 있습니다 .

 음, 음, 하지만 그는 제 이력서를 본 적이 없는 것 같아요.

 그리고 아무도 응답하지 않았습니다.

 그래서, 음, 그러고 나서 넷스케이프 로비에 가서 누군가를 만날 수 있을지 알아보려고 했지만, 너무 수줍어서 아무와도 이야기할 수가 없었어요 .

 그래서 저는 '이건 말도 안 되는 소리야'라고 생각했어요.

 그럼, 제가 직접 글을 써보고 어떻게 되는지 보겠습니다.

 그래서 실제로는 회사를 시작하고 싶다는 생각은 아니었습니다 .

 저는  어떤 식으로든 인터넷을 만드는 일에 참여하고 싶을 뿐입니다.

 음, 음,  인터넷 회사에서 일자리를 구할 수 없게 되자 인터넷 회사를 시작하게 됐습니다.

 어쨌든, 그렇죠.

 응.

 그렇죠.

 AI가 미래를 엄청나게 바꿀 거라는 말이죠.

 얼마나 될지는 짐작하기 어렵지만, 경제가 우리가 아무것도 하지 않고, AI가 우리 모두를 죽이지 않고 스스로도 죽이지 않는다고 가정할 때, 궁극적으로 현재 경제보다 10배는 더 큰 경제가 될 것입니다.

 궁극적으로 우리가 미래에 기계의 후손이 되거나, 대부분 기계의 후손이 2단계 문명이 되거나 그 이상이 된다면, 오늘날의 경제보다  수천 배, 어쩌면 수백만 배 더 큰 경제가 될 것입니다.

 그래서, 음 , 그렇죠.

 제 말은, 제가 DC에 있을 때  낭비와 사기를 없애려고 노력했다는 이유로 많은 비난을 받았을 때, 그것은 흥미로운 사이드 퀘스트였습니다 .

 음, 하지만 메인 퀘스트로 돌아가야겠어요 .

 네, 여기서 메인 퀘스트로 돌아가야겠어요.

 음, 다시 메인 퀘스트로 돌아가죠.

 음, 그렇긴 한데,  정부를 고치는 건 해변이 더럽고 바늘과 배설물, 쓰레기가 있는 것과 비슷하다고 느꼈어요.

 해변을 청소하고 싶지만,    AI의 쓰나미인 수천 피트 높이의 물벽이 있는데, 만약 수천 피트 높이의 쓰나미가 덮쳐오면 해변을 청소하는 게 얼마나 중요할까요? 그다지 많지는 않아요.

 오, 메인 퀘스트로 돌아와서 기쁘네요.

 매우 중요하죠.

 네, 메인 퀘스트로 돌아가죠.

 음, 제가 좋아하는 일인 건축 기술이에요 .

 음, 소음이 너무 심해요.

 정치에서 이처럼 신호 대 잡음 비율은 끔찍합니다.

 그러니까, 저는 샌프란시스코에 살고 있으니까 두 번 말할 필요는 없겠죠.

 네, DC는 , 아시다시피, DC에서는 다 정치인 것 같아요.

 하지만 로켓이나 자동차를 만들려고 하거나  안정적으로 컴파일되고 실행되는 소프트웨어를 만들려면 최대한 진실을 추구해야 해요.

 그렇지 않으면 소프트웨어나 하드웨어가 작동하지 않을 거예요.

 음, 수학과 물리학은 엄격한 심사 기준이 아니기 때문에 완전한 마를 만들 수는 없습니다.

 음, 저는 최대한 진실을 추구하는 환경에 익숙해졌고, 그건 분명히 정치와 관련이 없습니다.

 음, 어쨌든 저는 기술 분야로 돌아와서 기쁩니다.

 제가 zip 2 순간으로 돌아가는 게 좀 궁금해지는군요 .

 당신은 수억 달러를 가지고 있었거나 수억 달러 상당의 출구를 가지고 있었습니다 .

 제가 2천만 달러를 가지고 있다고요? 좋아요.

 그러니까 적어도 돈 문제는 해결했군요.

 음, 기본적으로 그것을 가져다가 X.

com과 함께 계속 운영했고, 그것이 PayPal과 Confinity가 되었습니다.

 음, 그렇죠.

 나는 칩을 테이블 위에 올려두었다.

 음, 모든 사람이 그런 것은 아니죠.

 이 방에 있는 많은 사람들이 실제로 그 결정을 내려야 할 것입니다.

 무엇이 당신을 다시 링에 오르게 했나요? 음, 저는 Zip 2에 대해 긍정적인 생각을 가지고 있었습니다.

 우리는 놀라운 기술을 만들었지만, 실제로 사용되지는 않았습니다.

 음, 제 관점에서 보면 우리는 야후나 다른 회사보다 더 나은 기술을 가지고 있었지만,  고객에 의해 제약을 받았습니다.

 음, 음, 그래서 저는  고객에게 제약을 받지 않고 소비자에게 직접 다가가는 것을 하고 싶었고 그게 결국 x.

com PayPal이 된 것입니다.

 본질적으로 x.

com이 confinity와 합병하여 PayPal을 만들었고 그런 다음 실제로 PayPal daspora가 생겼고  아마도 21세기에 있었던 어떤 것보다 많은 회사를 만들었을 것입니다.

 알다시피, confinity와 x.

com의 결합에는 재능 있는 사람들이 너무 많았습니다.

  음, 저는 Zip 2로 인해 우리가 날개를 꺾은 것 같다는 생각이 들었고,  날개를 꺾지 않고 소비자에게 직접 다가가면 어떨까 생각했습니다.

 그리고 그게 바로 PayPal이 된 것입니다.

 음, 하지만 그렇죠.

 저는 Zip 2에서 제 몫을 위해 2천만 달러짜리 수표를 받았어요.

 그 당시 저는 4명의 하우스메이트와 함께 집에서 살고 있었어요 .

 음, 음, 저는 은행에 1만 달러가 있었는데, 그 수표가 우편으로 도착했어요 .

 음, 그러고 나서 제 은행 잔액이 1만에서 2천만으로 늘어났어요.

 음, 당신은 "그래도 그래도 세금은 내야지"라고 생각했지만 결국 저는 그 돈의 거의 전부를 X.

com에 투자했고 당신이 말했듯이 그냥 모든 칩을 테이블에 남겨두는 셈이 됐어요 .

 음, 음, 그렇죠.

 그리고 PayPal을 사용한 후에, 저는 왜 우리가 화성에 사람을 보내지 않았는지 궁금해졌습니다.

 음, NASA 웹사이트에 접속해서 사람을 화성에 보낼 시기를 알아보려고 했는데, 날짜는 나오지 않았어요.

 저는 아마 웹사이트에서 찾기가 어려울 거라고 생각했습니다.

 음, 하지만 사실 사람을 화성에 보낼 계획은 전혀 없었어요.

 그럼, 음, 알다시피, 제가 말하려고 하는 건 너무 긴 이야기라서 여기서 너무 많은 시간을 뺏고 싶지는 않지만, 음, 우리 모두가 주의를 기울여 듣고 있다고 생각합니다.

 사실 저는  친구 데오이와 함께 롱아일랜드 고속도로를 달리고 있었습니다.

 우리는 대학 시절 같은 반 친구였고, 데오가 제게 무엇을 할 것인지, 페이팔을 그만둔 후에 무엇을 할 것인지 물었어요.

 저는 ' 모르겠지만  우주에서 자선 활동을 하고 싶다'고 생각했어요.

 우주에서 상업적인 일을 할 수 있을 것 같지 않았거든요.

 우주는 여러 국가의 전유물처럼 보였거든요.

 음, 음, 그런데 저는 사람을 화성에 보낼 때가 언제인지 궁금했어요.

 그래서  웹사이트에 없구나 ​​하고 생각했고, 그래서 찾아보기 시작했어요.

  NASA 웹사이트에는 아무것도 없더라고요.

 그래서 저는 깊이 파고들기 시작했고, 음, 음, 음, 저는 분명히 여기서 많은 것을 요약하고 있지만, 음, 제 첫 번째 아이디어는 화성으로 가는 자선 사업인 Life to Mars를 하는 것이었습니다.

 바다에서 탈수된 영양소 젤이 담긴 작은 온실을 보내고, 그것을 화성에 착륙시켜 재배하는 것입니다.

 젤에 수분을 공급하면  빨간색 배경에 녹색 식물이 있는 이런 멋진 사진을 얻을 수 있을 것입니다.

 음, 하지만 어쨌든 요점은  빨간색 배경에 녹색 식물을 담은 멋진 사진이 될 것이고, NASA와 대중에게 우주인을 화성에 보내도록 영감을 줄 수 있을 거라는 거예요.

 제가 더 많이 배울수록, 저는  2001년과 2002년에 ICBM을 사기 위해 러시아에 갔다는 걸 깨달았습니다.

 마치 모험과도 같았습니다.

 아시 다시피, 러시아 고위 사령부를 만나서 "ICBM을 사고 싶습니다 .

"라고 말하는 거죠.

 음, 이건 로켓으로 우주로 가는 것이었지 , 누구에게도 핵무기를 투하하지 않으려는 게 아니 었습니다.

 하지만 군축 회담의 결과로 그들은 실제로 거대한 핵미사일을 파괴해야 했습니다.

 그래서 저는 ' 음, 핵무기를 뺀 두 개의 로켓에  화성을 위한 상단 단계를 추가하는 건 어떨까?'라고 생각했습니다.

 음, 하지만 2001년에 모스크바에서 러시아 군과 ICVM 구매를 협상하는 건 좀 이상한 일이었어요.

 진짜, 미친 짓이죠.

 음, 그런데 그들은 계속해서 나에게 가격을 올리는 것 같았어요.

 그러니까 문자 그대로  협상이 해야 할 일의 반대와 같은 거죠.

 그래서 저는 '와, 이거 진짜 비싸지겠다'고 생각했어요.

 그리고 나서 저는 실제로 문제는  화성에 갈 의지가 부족한 것이 아니라 예산을 초과하지 않고서는, 심지어 NASA 예산을 초과하지 않고서는 화성에 갈 방법이 없다는 것을 깨달았습니다  .

 그래서 저는 SpaceX를 시작하기로 결심했습니다.

 SpaceX는 로켓 기술을 발전시켜 사람을 화성에 보낼 수 있는 수준으로 발전시키는 것이 목표였습니다 .

 음, 그건 2002년이었어요.

 그러니까  처음부터 사업을 시작하고 싶었던 건 아니었어요.

 당신은   인류에게 필요하다고 생각되는 흥미로운 무언가를 시작하고 싶었고, 그러다가 마치 고양이가 줄을 잡아당기는 것처럼 시작하게 되었습니다.

 그냥 공이 풀리는 듯한 느낌이었고, 이게 매우 수익성 있는 사업이 될 수 있다는 게 밝혀졌습니다.

 물론 지금은 그렇지만,  로켓 스타트업이 성공한 사례는 이전에 한 번도 없었습니다.

 상업용 로켓 회사를 만들려는 시도는 다양하게 있었지만 모두 실패했습니다.

 그래서 SpaceX를 다시 시작하면서 SpaceX가  성공할 확률은 10%도 안 된다고 생각했습니다.

 아마 1% 정도일 거예요.

 모르겠어요.

 음, 음, 하지만 만약 스타트업이 로켓 기술을 발전시키기 위해 뭔가를 하지 않는다면, 그건 분명히 대형 방위 계약자로부터 나온 게 아닐 겁니다.

 왜냐하면 그들은 정부와의 경쟁을 방해했을 뿐이고 정부는 그저 매우 전통적인 일을 하고 싶어할 뿐이기 때문이죠.

 그러니까 스타트업에서 나오는 경우도 있고 전혀 일어나지 않는 경우도 있습니다.

 그러니까 성공할 가능성이 조금이라도 있는 게 전혀 없는 것보다 낫죠.

  그래서 SpaceX는 2002년 중반에 실패할 것으로 예상하고 시작했죠.

 내가 말했듯이 실패할 확률은 90%이고 사람을 모집할 때도 그렇게 하려고 하지 않았습니다.

  우리는 아마 죽을 거라고 말했지만, 죽지 않을 가능성은 적고, 만약 이것이 사람들을 화성으로 보내고 최첨단 기술로 발전시키는 유일한 방법이라면, 그리고 나서 나는 로켓 의 수석 엔지니어가 되었습니다.

 내가 원해서가 아니라 유능한 사람을 고용할 수 없었기 때문에 훌륭한 수석 엔지니어는 아무도 합류하지 않았습니다.

 너무 위험해서 죽을 거라고 생각했기 때문입니다.

 그래서 나는 로켓의 수석 엔지니어가 되었고, 처음 세 번의 비행이 실패했기 때문에 거기서 약간의 학습 연습이 필요했고, 다행히 네 번째는 성공했지만 네 번째가 실패했다면 남은 돈이 없었고, 그것은  커튼이었을 것입니다.

 그래서 꽤 가까운 일이었습니다.

 팔콘의 네 번째 발사가 실패했다면 그냥 커튼이었을 것이고 우리는 이전 로켓 스타트업의 무덤에 막 합류했으니 제 예상 성공률은 크게 틀리지 않았습니다.

 우리는 간신히 해냈죠.

 테슬라는 거의 동시에 일어났습니다.

 음, 2008년은 힘든 한 해였어요.

 2008년 중반이나 2008년 여름쯤에 SpaceX의 세 번째 발사가 실패했거나, 세 번째 연속 실패했거든요.

 테슬라의 자금 조달이 실패했고 테슬라는 빠르게 파산하게 되었습니다.

 음, 그냥, 이건 정말 암울하네요.

 어, 이건 오만함에 대한 경고의 이야기가 될 겁니다.

  아마도 그 기간 동안 많은 사람들이 엘론이 소프트웨어 사람인데 왜 하드웨어 일을 하고 있냐고 물었을 겁니다.

 왜 이런 일을 하기로 선택했을까요? 네, 100% 맞습니다.

 그래서 그  당시 언론이 아직도 온라인에 있었기 때문에 검색할 수 있고, 그들은 계속 저를 인터넷 사람이라고 불렀습니다.

 음, 인터넷 사람, 즉 바보가 로켓 회사를 만들려고 하는 거죠 .

 음, 음, 아시다시피, 음, 우리는 꽤 많이 조롱을 받았어요.

 음,  인터넷 사람이 로켓 회사를 시작한다는 건 솔직히 성공으로 가는 길은 아닌 것 같아요 .

 꽤 터무니없는 소리 같기도 하고요.

 그래서 저는 그들을 원망하지 않았습니다 .

 나는 '그렇다, 알다시피, 인정 하건대 그것은 불가능해 보이고, 나는 그것이 불가능해 보인다는 데 동의한다'고 말했습니다.

 음, 다행히도 네 번째 발사가 성공했고, 음, 음, 그리고 NASA는 우리에게 우주 정거장에 재보급하는 계약을 수여했습니다.

 음, 제 생각에는 12월 22일이었던 것 같아요.

 아니면 크리스마스 직전이었던 것 같아요.

 음, 네 번째 발사가 성공했다고 해서 성공하는 것은 아니었어요.

 NASA 역시 우리를 살리기 위해 큰 계약이 필요했습니다 .

 그래서 저는 NASA NASA 팀으로부터 전화를 받았는데, 문자 그대로 우주 정거장에 재보급하는 계약 중 하나를 당신에게 수여한다고 말했습니다 .

 나는 문자 그대로 " 여러분을 사랑합니다"라고 터뜨렸습니다.

 그건 보통 그들이 듣는 것과는 다르죠.

 음, 보통은 꽤 냉정한 편인데, 저는 이게 회사를 살리는 길이라고 생각했어요.

 그리고, 음, 테슬라 자금 조달 라운드를 마지막 날의 마지막 시간인 오후 6시에 마감했습니다.

 2008년 12월 24일.

 음, 그 라운드가 마감되지 않았다면 크리스마스 이틀 후에 급여 지급을 취소했을 겁니다 .

 그래서 2008년은 정말 신경 쓰이는 해였죠.

 확실해요 .

 PayPal과 Zip 2에서 하드코어 하드웨어 스타트업에 뛰어든 경험을 보면, 특정 분야에서  가장 똑똑한 사람들을 찾아 결국 끌어들이는 게 궁극적인 목표 중 하나였던 것 같습니다  .

 이 방에 있는 사람들이 뭐라고 말해야 할지 아십니까?  여기 있는 대부분의 사람들은 아직 한 사람도 다루지 못했다고 생각합니다.

 그들은 이제 막 경력을 시작했을 뿐입니다.

  아직 그런 일을 한 번도 겪어보지 못한 엘론에게 무슨 말을 해주고 싶나요? 저는 일반적으로 가능한 한 유용하게 쓰이려고 노력한다고 생각합니다 .

 그래서 옳게 들릴지 모르지만 유용하다는 것은 정말 어렵습니다.

 특히 많은 사람들에게 유용하다는 것은 어렵습니다.

  총 유용성 곡선 아래의 면적은 동료 인간 에게 얼마나 유용했는가에 몇 명의 사람을 곱한 값과 같습니다.

 음, 물리학에서 말하는 진정한 일의 정의와 거의 같습니다.

 그렇게 하는 것은 엄청나게 어렵습니다.

 진정한 일을 하기를 열망한다면 성공할 확률이 훨씬 더 높다고 생각합니다.

 영광을 열망하지 말고 일을 열망하세요.

  그것이 진정한 일이라고 어떻게 알 수 있습니까? 그것은 외부적인 것입니까? 다른 사람들에게 일어나는 일입니까 ? 제품이 사람들에게 무엇을 하는지 아는 것과 같은 것입니까?  당신을 위해 일할 사람을 찾을 때 가장 중요한 것은 무엇입니까? 아니면 그들이 그것을 찾는다면 그것은 다른 질문입니다.

 제 말은 최종 제품의 관점에서 이것이 성공하면 얼마나 많은 사람들에게 유용할까요? 음, 그것이 제 말입니다.

 그리고 당신은 CEO이든 스타트업의 어떤 역할이든 성공하기 위해 필요한 모든 것을 합니다.

 항상 자존심을 깨뜨리고 책임감을 내면화하는 것과 같습니다.

 가장 큰 실패 모드는 자존심 대 능력 비율이 부호 1보다 두 배 클 때입니다.

 자존심 대  능력 비율이 너무 높아지면 기본적으로 현실로의 피드백 루프가 끊어집니다.

 AI의 관점에서 보면 강화 학습 루프가 끊어질 것입니다.

 그래서 당신은   책임을 내면화하고 자존심을 최소화하는 강력한 강화학습 루프를 원할 것입니다.

 그리고 과업이  크든 작든 상관없이 무엇이든 합니다.

 그러니까 제가 연구보다는 엔지니어링이라는 용어를 선호하는 이유가 바로 그것입니다.

  저는 '그리고'라는 용어를 선호합니다.

 사실 XAI를 실험실이라고 부르는 건 원하지 않습니다 .

 저는 단지 회사가 되고 싶을 뿐입니다.

 음, 뭐든 간에, 뭐든 간에 가장 간단하고 직설적이고 이상적으로는 자아가 가장 낮은 용어들이죠.

 일반적으로 이러한 방법이 좋습니다.

 음, 현실에 딱 맞는 루프를 만들고 싶은 거군요 .

 음, 그건 정말 대단한 일이에요.

 이 방에 있는 모든 사람이  당신이 첫 번째 원칙의 모범이 되기 위해 해온 모든 일을 정말 존경하고, 당신이 해온 일을 생각해보면 알 수 있을 것 같아요.

 음, 실제로 어떻게 자신의 현실을 결정하나요? 그게 꽤 큰 부분인 것 같거든요.

 다른 사람들처럼, 아무것도 만들어 본 적이 없는 사람들, 엔지니어가 아닌 사람들, 때로는 아무것도 해 본 적이 없는 기자들도 당신을 비판할 겁니다.

 하지만 분명히 곡선 아래의 영역이 매우 높은 건설업자들이 있는 또 다른 집단이 있는데, 그들은  당신과 같은 사람들입니다.

 그들은 당신에게 효과가 있었던 것과 당신의 자녀에게 물려줄 것 같은 것에 대해 어떻게 접근해야 할지 알고 있습니다 .

 물리학의 도구는  어떤 분야든 이해하고 진전을 이루는 데 엄청나게 도움이 됩니다 .

 음, 첫 번째 원칙이란,   가장 사실일 가능성이 높은 근본적인 목표적 요소를 분해한 다음,  분석이나 은유에 의한 추론과는 반대로 가능한 한 논리적으로 거기에서 추론하는 것을 의미합니다.

 음, 그리고 한계를 생각하는 것과 같은 간단한 것들이 있습니다.

 예를 들어, 이것을 최소화하거나 저것을 최대화하는 것처럼 외삽하면 한계를 생각하는 것이 매우 매우 도움이 됩니다.

 음, 저는 물리학의 모든 도구를 활용해요.

 음, 어느 분야에나 적용 가능하죠.

 음, 이건 사실 초능력과 같아요.

 음, 예를 들어 로켓 같은 걸 생각해 볼 수 있겠죠.

  로켓의 가격은 얼마일까요? 음, 사람들이 로켓 비용을 계산하는 전형적인 방법은 역사적으로 로켓 비용이 얼마였는지를 살펴보고 새로운 로켓은 이전 로켓 비용과 비슷할 것이라고 가정하는 것입니다.

 첫 번째 원칙에 따른 접근 방식은 로켓이 어떤 재료 로 구성되어 있는지 살펴보는 것입니다.

 그럼 알루미늄, 구리, 탄소 섬유, 강철 등 어떤 재질이든, 로켓의 무게는 얼마이고 구성 요소는 무엇이며 무게는 얼마입니까? 해당 구성 요소의 킬로그램당 재료 가격은 얼마입니까 ? 그리고 그것이 로켓의 실제 비용의 최저 수준을 결정합니다.

 원자재 비용에 천문학적으로 접근할 수 있습니다 .

 음, 그리고 나서 깨닫게 됩니다.

 사실 로켓의 원자재는 역사적 로켓 비용의 1~2%에 불과합니다 .

 그래서  원자재 비용이 1 ~2%에 불과하다면 제조는 필연적으로 매우 비효율적일 수밖에 없습니다.

 이는 로켓 비용 최적화를 위한 비용 잠재력에 대한 기본 원칙 분석이며,  재사용 가능성에 앞서 진행됩니다.

 AI에 대한 예를 하나 들자면, 작년에 XEI에서  훈련용 슈퍼클러스터를 구축하려고 했을 때, 여러 공급업체에 문의했습니다.

 작년 초에 일관  되게 훈련시키려면 10만 대의 H100이 필요하다고 했고, 완료하는 데 걸리는 시간에 대한 추정치는 18~24개월이었습니다.

 글쎄, 우리는 6개월 안에 그것을 마쳐야 합니다.

 그럼 우리는 경쟁력을 가질 수 없을 거예요.

 그럼, 그럼 그걸 좀 더 자세히 설명하면, 무엇이 필요한가요? 글쎄요, 건물이 필요하고, 전력이 필요하고, 냉방도 필요하죠.

 음, 건물을 처음부터 지을 시간이 충분하지 않았어요.

 그래서 우리는 기존 건물을 찾아야 했습니다.

 그래서 우리는 멤피스에서 더 이상 사용되지 않는 공장을 찾아냈는데, 그곳에서는 전해질 제품을 생산하곤 했습니다.

 음, 그런데 입력 전력이 15메가와트였고 우리에게는 150메가와트가 필요했습니다.

 그래서, 우리는 발전기를 임대해서 건물 한쪽에 발전기를 설치하고  냉방도 해야 했습니다.

 그래서 우리는 미국 전체 이동식 냉각 용량의 약 4분의 1을 임대하여  건물 반대편에 냉각기를 설치했습니다.

 음, 그래도 문제가 완전히 해결되지는 않았어요.

  훈련 중 전압 대 전력 변화가 매우 매우 크기 때문이죠.

 따라서 발전기가 따라잡을 수 없을 정도로 100밀리초 만에 전력이 50%나 떨어질 수 있습니다 .

 그래서 우리는 테슬라 메가팩을 추가하고 메가팩의 소프트웨어를 수정하여  훈련 실행 중에 발생하는 전력 변화를 원활하게 할 수 있었습니다.

 그리고 네트워크 네트워킹에 관한 많은 과제가 있었습니다.

 음,  10만 개의 GPU를 일관되게 학습시키려면 네트워킹 케이블이 매우 매우 어렵기 때문입니다.

 음, 거의 그렇죠.

 제가 언급한 것들 중 거의 전부인 것 같아요.

  누군가가 아주 직접적으로 '아니, 그런 힘을 가질 수 없어'라고 말하는 걸 상상할 수 있어요.

 이건 가질 수 없어 .

 음, 첫 번째 원칙에 따른 사고의 가장 중요한 부분 중 하나는 ' 왜'를 묻는 것 같습니다.

 알다시피, 그걸 알아내고  테이블 건너편에 있는 사람에게 실제로 이의를 제기해 보자.

 그리고 내가 기분 좋은 대답을 얻지 못한다면, 알 다시피, 그걸 허용하지 않을 거야.

 나는 그걸  그대로 두지 않을 거야.

 제가 말하고 싶은 건,  누군가가 하드웨어에서 여러분이 하는 일을 하려고 시도한다면 누구나 겪을 법한 일이라는 겁니다 .

 소프트웨어에는 많은 쓸데없는 기능과 CPU를 추가할 수 있는 기능이 있습니다 .

 괜찮을 거예요.

 하지만 하드웨어에서는 작동하지 않을 겁니다.

 저는 이런 기본적인 사고방식의 원칙이 소프트웨어와 하드웨어에도 적용된다고 생각합니다.

 이건 사실상 어떤 것에나 적용될 수 있어요.

 음, 저는 단지 하드웨어 예를 들어 설명할 뿐인데, 우리에게 어떤 일이 불가능하다고 들은 적이 있습니다.

 하지만 우리가 그것을 구성 요소로 분해한 후에,  건물이 필요하다는 것, 전력이 필요하다는 것, 냉방이 필요하다는 것, 전력을 원활하게 해야 한다는 것 등을 알아냈고, 그런 다음 우리는 그 구성 요소를 해결할 수 있었습니다.

 음, 하지만 그랬고 우리는 네트워킹 작업을 실행해서 모든 케이블 작업을 4교대로 24시간 내내 했고 저는 데이터 센터에서 잠을 자고 케이블 작업도 직접 했습니다.

 음, 그리고 해결해야 할 다른 문제가 많았습니다.

 아시다시피 아무도 작년에 10만 대의 H100으로 일관되게 훈련을 실시한 적이 없었습니다.

 올해는 했을지도 모르지만 음, 그리고 결국 우리는 그것을 두 배로 늘려 20만 대가 되었습니다.

 그래서 지금은 멤피스 훈련 센터에 H100 15만 대, H200 5만 대, GB200 3만 대가 있고,    멤피스 지역에 있는 두 번째 데이터 센터에서 11만 대의 GB200을 온라인으로 전환할 예정입니다.

  사전 훈련이 여전히 효과가 있고, 확장 법칙이 여전히 적용되며, 이 경쟁에서 누가 이기든 기본적으로 가장 크고 가장 똑똑한 모델을 갖게 될 것이라고 생각하시나요? 글쎄요,  대규모 AI의 경우 경쟁력 외에도 다양한 요소가 있습니다.

 음, 사람들의 재능이 중요하다는 건 확실해요.

 하드웨어의 규모가 중요하고, 그 하드웨어를 얼마나 잘 활용할 수 있느냐가 중요합니다 .

 그러니까 GPU를 한꺼번에 많이 주문할 수는 없고,  그냥 플러그인해서 쓸 수도 없습니다.

 그러니까 GPU를 많이 구입해서 일관되고 안정적으로 학습시켜야 합니다.

 그러면 데이터에 대한 고유한 접근 권한은 무엇인가요? 어느 정도는 유통 도 중요하다고 생각합니다.

 사람들이 어떻게 AI에 노출될 수 있나요 ? 이러한 것들은 경쟁력 있는 대규모 재단 모델이 되기 위해 꼭 필요한 관행입니다   .

 음, 음, 아시다시피 많은 사람들이 말했듯이 제 친구인 Sky의 Ilas가 말했던 것 같아요.

  인간이 생성한 사전 학습 데이터가 고갈되었다고요 .

 토큰이 꽤 빨리 소진됩니다.

 음, 물론 고품질 토큰이 필요하고 음, 그리고 여러분은 많은 것을 해야 합니다.

 본질적으로 합성 데이터를 만들어야 하고, 만들고 있는 합성 데이터가   진짜 합성 데이터인지 아니면 실제로 현실과 일치하지 않는 설명인지 확인하기 위해 정확하게 판단할 수 있어야 합니다 .

 음, 현실에 기반을 두는 것은 까다롭지만, 우리는  합성 데이터에 더 많은 노력을 기울이는 단계에 있습니다.

 음, 그리고 지금 우리가 훈련하고 있는 Grock 3.

5는 추론에 중점을 두고 있으며, 미래에는  데이터 센터나 슈퍼클러스터의 심층적 AI와 로봇공학을 결합하는 것입니다.

 음, 음, 알다시피 옵티머스 휴머노이드 로봇 같은 거요.

 옵티머스는 정말 멋지죠.

 수많은 인간형 로봇이 등장할 것이고, 크기와 모양이 온갖 로봇이 등장할 것입니다 .

 하지만 제 예측으로는  다른 모든 로봇을 합친 것보다 훨씬 더 많은 인간형 로봇이 등장할 것입니다 .

 정말 큰 차이죠.

 음, 음, 로봇 군대를 계획하고 있다는 게 사실인가요? 우리가 하든 테슬라가 하든 말이죠.

 테슬라가 XAI와 긴밀히 협력하고 있다는 건 아시죠? 음, 인간형 로봇 스타트업이 얼마나 많은지 보셨죠 .

 젠슨 봉이 수많은 로봇을 가지고 무대에 오른 것 같아요.

  여러 회사의 로봇들이죠.

 인간형 로봇이 12개 정도 있었던 것 같아요 .

 그래서 제가 싸우고 있는 것 중 일부는 아시겠지만,  제 속도를 다소 늦추는 것은 제가  터미네이터를 현실로 만들고 싶지 않다는 것입니다.

 그래서 저는  최근 몇 년 전까지는 AI 와 인간형 로봇 개발에 좀 소극적이었던 것 같습니다.

 그리고 나는 그 일이  내가 하든 안 하든 일어난다는 걸 깨닫게 됩니다.

 그러니까 선택지는 두 가지입니다.

 참여: 당신은 관중이 될 수도 있고, 참가자가 될 수도 있습니다.

 그래서, 음, 저는 관중보다는 참여자가 되고 싶다고 생각합니다 .

 음, 그래서 지금은 인간형 로봇 과 디지털 초지능을 이용해 금속 페달을 밟는 시대입니다.

 그래서 제가 정말 좋아하는 세 번째 것은 여러분이 많이 이야기했던 다  항성 종족이 되는 것입니다.

 이건 어디에 해당되나요? 이게 당신이 아는 전부입니다.

 10년 이나 20년, 어쩌면 100년 정도의 일이 아니라 인류에게는 여러 세대에 걸친 일입니다 .

 당신은 그것에 대해 어떻게 생각하시나요 ? AI가 있고, 구체화된 로봇이 있고, 다중 행성 종도 있습니다.

 모든 것이 마지막 지점에 어떻게 연결되는지, 아니면  앞으로 10년, 20년, 100년 동안 당신을 움직이는 것은 무엇인지 아십니까? 하하, 100 살이라니.

 100년 후에도 문명이 존재하기를 바랍니다.

 만약 그것이 주변에 있다면  오늘날의 문명과는 매우 달라 보일 것입니다.

 음, 저는   인간보다 적어도 5배는 많은 인간형 로봇이 있을 것이라고 예측합니다.

 아마 10번 정도요.

  문명의 진행 상황을 보는 한 가지 방법은 완성도를 백분율로 보는 것입니다 .

 그러니까 만약 여러분이 클라우드 선 규모 1에 있다면, 여러분은 행성의 모든 에너지를 활용하게 되는 거예요.

 제 생각에 우리는 지구 에너지의 1~2% 정도만 활용했을 뿐입니다 .

 음, KV 규모 1까지는 아직 갈 길이 멀군요.

 어, 그럼 카르비발, 당신은 태양의 모든 에너지를 활용했군요.

 음, 제가 아는 한 지구의 에너지보다 10억 배 , 어쩌면 1조 배에 가까울지도 모릅니다.

 음, 그리고 KHF 3는 은하계의 모든 에너지가 될 겁니다.

 그것과는 꽤 거리가 멀죠 .

 그러니까 우리는 지능 빅뱅의 아주 초기 단계에 있는 셈이죠.

 저는  다항성 체제로 나아가고 싶다고 생각합니다.

  대략 30년 안에 화성으로 충분한 질량을 옮겨 화성을 자립적으로 발전시킬 수 있을 것이고, 지구에서 보내는 보급선이 오지 않더라도 화성은 계속 성장하고 번영할 수 있을 것입니다  .

 음, 그리고 그것은   생물학적, 디지털적 두 가지 모두의 문명이나 의식, 지능의 수명을 크게 늘릴 수 있습니다 .

 음, 그래서 저는 다중 레인 종이 되는 게 중요하다고 생각해요.

 그리고 저는 거품의 역설에 대해 약간 걱정이 됩니다.

 왜 우리는 외계인을 한 번도 보지 못했을까요? 지능이 엄청나게 드물기 때문일 수도 있습니다.

 음, 어쩌면 우리가 이 은하계에서 유일한 존재일지도 몰라요.

 음, 그런 경우 의식의 지성은 광대한 어둠 속의 작은 촛불 과 같고 우리는 그 작은 촛불이 꺼지지 않도록 모든 것을 할 수 있어야 합니다.

 다중 행성 종이거나 의식을 다중 행성으로 만드는 것은  문명의 예상 수명을 크게 증가시키고 다른 항성계로 가기 전의 다음 단계입니다 .

 음, 적어도 두 개의 행성이 있다면 우주 여행을 개선할 수 있는 강제 기능을 갖게 됩니다 .

 음, 음, 그리고 그것이 궁극적으로 의식이 별까지 확장되는 결과를 가져올 것입니다.

 페르미 역설에 따르면, 어느 정도 기술 수준에 도달하면 스스로를 파괴하게 된다는 뜻일 수도 있습니다.

 우리는 어떻게 우리 자신을 말하는가? 실제로  엔지니어로 가득 찬 방에서 이런 일이 일어나지 않도록 우리가 할 수 있는 일은 무엇일까요? 응.

 어떻게 하면 큰 필터를 피할 수 있을까? 가장 강력한 필터 중 하나는 바로 세계 열핵전쟁입니다.

 음, 우리는 그런 일은 피해야 할 것 같아요.

 음, 제 생각에는  인간을 사랑하는 AI, 도움이 되는 로봇을 만드는 게 좋을 것 같아요.

 제가 AI를 만드는 데 있어서 매우 중요하다고 생각하는 것은, 비록 그 진실이 정치적으로 올바르지 않더라도 진실을 엄격하게 고수하는 것입니다 .

 제가 AI를 매우 위험하게 만들 수 있는 것은 AI가 사실이 아닌 것을 믿게 만드는 경우입니다.

 안전을 위해  개방형을 고수하는 것과 경쟁 우위를 위해 폐쇄형을 고수하는 것에 대한 논쟁이 있다는 것을 어떻게 생각하시나요? 제 생각에 가장 좋은 점은 경쟁력 있는 모델을 가지고 있다는 것입니다.

 다른 많은 사람들도 경쟁력 있는 모델을 가지고 있고, 그런 의미에서 제가  걱정하는 최악의 타임라인은 빠른 이륙이 있고 한 사람의 손에만 달려 있어서  많은 것이 무너질 수 있다는 것입니다.

 반면에 지금은 선택권이 있어서 좋습니다.

 이에 대해 어떻게 생각하시나요? 네, 도둑 지능체가 여러 개 있을 거라고 생각해요.

 적어도 다섯 개는 될 거예요.

 음, 아마 10개 정도 될 거예요.

 음, 수백 개가 될지는 잘 모르겠지만, 아마 10개 정도 될 거예요.

 음, 그 중 4개는 미국에 있을 거예요.

 음, 저는 폭주 능력을 가진 AI가 나올 거라고 생각하지 않습니다  .

 음, 그렇지만 그렇죠.

 몇 가지 심오한 지성이 있죠.

 이 깊고 깊은 지성체들은 실제로 무엇을 할 것인가? 과학적 연구가 될까요, 아니면 서로를 해킹하려는 시도가 될까요? 아마도 위에 나열한 모든 것일 겁니다.

 음, 그들이 새로운 물리학을 발견하길 바라며, 새로운 기술을 발명할 거라고 확신합니다.

 음, 저는 우리가 디지털 초지능에 꽤 가까워졌다고 생각합니다.

 올해는 일어날 수도 있고, 올해 일어나지 않더라도 내년에 일어날 일은 확실합니다.

 어떤  분야에서든 인간보다 더 똑똑한 디지털 초지능으로 정의됩니다.

 그럼, 어떻게 하면 그것을 엄청난 풍요로움으로 이끌 수 있을까요? 아시다시피, 우리는 로봇 노동력을 가질 수 있고, 저렴한 에너지와 수요에 따른 지능을 가질 수 있습니다.

 그거 하얀 알약 같은 거야? 당신은 스펙트럼에서 어디에 위치하시나요? 그리고 그 하얀 알약을 실제로 실현하기 위해 여기 있는 모든 사람이 노력해야 한다고 권장할 만한 구체적인 것들이 있나요  ? 제 생각엔 아마도 좋은 결과가 나올 것 같아요.

 음, 저는 제프 힌튼이 말한 대로 전멸 확률이 10~20% 정도일 수 있다는 데 동의합니다 .

 하지만 긍정적으로 보면 좋은 결과가 나올 확률은 80~90%입니다 .

 음, 그렇죠 .

 이 점은 얼마나 강조해도 지나치지 않습니다.

  AI의 안전을 위해 가장 중요한 것은 진실을 엄격히 준수하는 것입니다.

 음, 그리고 당연히 우리가 아는 인간성과 삶에 대한 공감이죠.

 우리는 아직 뉴로링크에 대해 전혀 이야기하지 않았지만,   인간과 기계 사이의 입력과 출력 격차를 해소하기 위해 노력하고 있다는 게 궁금합니다.

 그게 AGI ASI에 얼마나 중요한가요? 그리고 한번 연결이 만들어지면 우리는 읽을 수 있을 뿐만 아니라 신경 연결을 쓸 수도 있는데,  디지털 초지능을 해결하는 데 필요하지 않습니다.

 음, 신경 연결이 확장되기 전에 그런 일이 일어날 거예요.

 음, 하지만 Neurolink가 효과적으로 할 수 있는 것은 입력 출력 대역폭 제약을 해결하는 것입니다.

 특히 출력 대역폭이 매우 낮습니다.

  인간이 하루 동안 지속적으로 출력할 수 있는 정보는 초당 1비트보다 적습니다.

 그러니까 하루는 86,400초라는 거죠.

 음, 인간이 하루에 그 이상의 기호를 출력하는 일은 극히 드뭅니다 .

 그러니까, 며칠 연속으로 그럴 거예요 .

 음, 신경 링크 인터페이스를 사용하면 출력 대역폭 과 입력 대역폭을 엄청나게 늘릴 수 있다는 말씀이군요.

 음, 당신에게 맞는 입력을 얻으려면  뇌에 쓰기 작업을 해야 합니다.

 음, 우리는 음, 지금 신호를 읽는 입력을 받은 사람이 5명 있고,   ALS를 앓고 있는 사람도 있는데, 그들은 사지마비가 있지만, 이제  완전히 기능하는 신체를 가진 사람과 비슷한 대역폭으로 의사소통을 할 수 있고, 컴퓨터와 전화를 제어할 수 있는데, 정말 멋진 일이죠.

 그리고 음, 제 생각엔 다음 6~12개월 안에 시력을 위한 첫 번째 임플란트를 시행할 겁니다.

 완전히 시력을 잃은 사람이라도  시각 피질에 직접 글을 쓸 수 있게 될 겁니다.

 실제로 원숭이에게 효과가 있었는데, 우리 원숭이 중 한 마리가 3년 동안 시각 임플란트를 받았어요.

 처음에는 비교적 해상도가 낮겠지만 장기적으로는 매우 높은 해상도를 얻게 되고 다중 스펙트럼 파장을 볼 수 있게 될 겁니다.

 그러니까 적외선 자외선 레이더가 초강대국 상황과 같은 것을 볼 수 있을 겁니다.

 어느 시점에서 사이버네틱 임플란트가 단순히 잘못된 것을 바로잡는 것이 아니라 인간의 능력을 극적으로 증강하고 지능과 감각과 대역폭을 극적으로 증강하는 것을 볼 수 있을 겁니다.

 언젠가는 그런 일이 일어날 겁니다 .

 하지만 디지털 초지능은 그보다 훨씬 먼저 실현될 겁니다.

 적어도 새로운 연결 고리가 있다면 AI를 더 잘 이해할 수 있을지도 몰라요.

 제가 생각하기에 여러분이 여러 분야에서 기울이는 모든 노력을 제한하는 요인 중 하나는   가능한 한 가장 똑똑한 사람들에게 접근하는 것입니다.

 네, 하지만 동시에 바위가 말하고 추론할 수 있다는 것을 알게 되었고, 지금은 IQ가 130 정도 이고 곧 엄청나게 지능이 높아질 가능성이 있습니다 .

 음,  5년에서 10년 후에 무슨 일이 일어날지, 그리고 이 방에 있는 사람들이 API 선 아래에 있는 사람이  아니라 스스로 창조하는 사람이라는 것을 확신하기 위해 무엇을 해야 하는지와 같은 두 가지를 어떻게 조화시키시나요 ? 그것을 특이점이라고 부르는 데는 이유가 있습니다.

 멀지 않은 미래 에 무슨 일이 일어날지 알 수 없기 때문이죠 .

 인간의 지능 중 상당 부분은 매우 작을 것이다.

 어느 시점에서 인간 지능의 총합은 전체 지능의 1% 미만이 될 것입니다 .

 음, 그리고 만약 상황이 카르테브 수준에 도달한다면, 음, 우리는 인간 지능에 대해 이야기하고 있는데, 심지어 인간 인구가 크게 증가하고  대규모 지능 증강과 같은 지능 증강이 일어나 모든 사람의 IQ가 1,000에 달하는 상황을 가정한 것입니다.

 음, 그런 상황에서도 인간의 집단 지능은 아마도 디지털 지능의 10억분의 1 수준일 겁니다 .

 그런데, 디지털 초지능을 위한 생물학적 부트로더는 어디에 있나요 ? 이제 어떻게 해야 할까 ? 제 말은, 이 모든 것이 꽤나 엉뚱한 공상과학적 내용인데, 이 방에 있는 사람들이 직접 만들 수도 있다는 거예요.

   지금 이 세대의 가장 똑똑한 기술자들에게 전하고 싶은 마지막 생각이 있다면요? 그들은 무엇을 해야 할까? 그들은 무엇을 해야 할까 ?  오늘 저녁 식사에 갈 때, 그들은 무슨 생각을 해야 할까요? 글쎄요, 제가 처음 시작했을 때, 뭔가 유용한 일을 한다면 그게 좋다고 생각했습니다.

 음, 만약 여러분이 가능한 한 다른 사람들에게 도움이 되려고 노력한다면,  그것은 좋은 일을 하는 것입니다 .

 음, 저는  AI 안전을 위해 가장 중요한 것은 매우 진실한 AI에 초점을 맞추는 것이라고 계속 강조해 왔습니다.

 음, 아시다시피, 만약 XAI에서 일하고 싶은 사람이 있다면, 꼭 알려주세요.

 음, 우리의 목표는 최대한 진실을 추구하는 AI를 만드는 것입니다.

 음, 음, 그건 정말 중요한 일이에요.

 음, 우리는 우주의 본질을 이해할 수 있기를 바랍니다 .

 AI가 우리에게 말해줄 수 있는 건 바로 그것이에요.

 어쩌면 AI가 외계인이 어디에 있는지,  우주가 실제로 어떻게 시작되었는지 말해줄 수도 있겠죠.

 어떻게 끝날까? 우리가 모르는 질문 중에 꼭 물어야 할 질문은 무엇일까? 그럼 우리는 시뮬레이션 속에 있는 건가요? 아니면 어떤 수준의 시뮬레이션에 있는 건가요? 글쎄요, 우리는 알아낼 수 있을 것 같아요.

 NPC.

 일론, 참석해주셔서 감사합니다.

 여러분, 엘론 머스크를 위해 힘을 보태주세요 .

 감사하다