구글 딥마인드 인터뷰 비하인드! 혁신 비밀 전격 공개

당신은 지능을 해결하고, 지능을 이용해 다른 모든 문제를 해결하겠다는 생각으로 딥마인드를 창립했습니다   .

 그리고 저는 그것이 20년짜리 임무와 같다고 생각합니다.

 우리는 벌써 15년째 이 일을 하고 있어요 .

 그리고 당신은 올바른 길을 가고 있습니다.

 네, 사실 우리는 거의 올바른 방향으로 가고 있다고 추정합니다.

 즉, 사람들이 AGI라고 부르는 기술까지는 5년 정도 걸릴 겁니다  .

 네, 저는 앞으로 5~10년 안에  우리가 정의한 AGI를 실현할 확률은 50% 정도라고 생각합니다 .

 예.

 글쎄요, 어떤 동료들은 2년, 3년이라고 말하고, 어떤 사람들은 조금 더 오래 걸린다고 말하지만, 그 차이가 정말 큽니다.

 정말 곧이네요.

 우리가 그렇게 가깝다는 걸 어떻게 알 수 있을까? 현재 이 분야에서는 AGI의 정의에 대한 논쟁이 진행 중이고,  그에 따라 AGI가 언제 실현될지에 대한 예측도 다양합니다 .

 어, 우리는 처음부터 꽤 일관성을 유지해 왔고 실제로 공동 창립자 중 한 명이자 수석 과학자인 Shane Le는   아시다시피 2001년 초쯤에 AGI라는 용어를 정의하는 데 도움을 줬습니다.

 우리는 항상 그것을  인간으로서 우리가 가진 모든 인지 능력을 보여줄 수 있는 시스템으로 생각해 왔습니다.

 그리고 그것이 중요한 이유는 인간의 마음을 언급한 것이 인간의 마음이 우주에서 일반 지능이 가능하다는 것을 증명하는 유일한 증거이기 때문입니다.

 따라서 일반 지능 AGI를 주장하려면  모든 도메인으로 일반화된다는 것을 보여야 합니다.

 모든 확인 표시가 채워지면 모든 것이 채워지고 모든 확인 표시가 채워지면 ' 예'가 됩니다.

 그래서 지금은 누락된 기능이 있다고 생각합니다.

  최신 LLM과 채팅 봇을 사용해 본 사람이라면 추론, 계획, 기억과 같은 것을 잘 알고 있을 것입니다.

  오늘날의 시스템은 진정한 발명, 진정한 창의성, 새로운 과학 이론을 가설화할 수 없다고 생각합니다.

 그것들은 매우 유용하고 인상적 이지만 허점이 있습니다.

 사실 제가  아직 AGR에 도달하지 못했다고 생각하는 주된 이유 중 하나는 일관성 때문입니다.

 아시다시피 일부 도메인에서는    알파 증명 시스템으로 국제 수학 올림피아드 수학 문제를 금메달 수준으로 풀 수 있는 시스템이 있습니다.

 하지만 다른 한편으로는 이러한 시스템은 때때로 고등학교 수학이나 단어의 글자 수를 세는 부분에서는 여전히 실수를 합니다.

 제 생각에는 전반적으로 성과에 차이가 있다는 것은 예상하지 못한 수준입니다.

  일관성이 충분하지 않다고 생각하기 때문에  이러한 시스템이 아직 완전히 일반화되지 않았다는 것을 보여줍니다 .

 하지만 우리가 그것을 얻었을 때, 마치 위상 변화와 같은 일이 일어나고 갑자기 모든 것이 달라지고 모든 확인 표시가 체크됩니다.

 응.

 아시 다시피 우리는 모든 것을 할 수 있는 능력을 가지고 있어요 .

 그러면 우리는 새로운 세상에서 힘을 얻고 있는 걸까 ? 당신도 아시겠지만, 이 문제에 대한 논쟁이 있고  점진적인 전환이 될지, 아니면 단계적 전환이 될지는 확실하지 않습니다 .

 제 추측으로는 점진적인 변화가 일어날 것 같습니다.

 그런 시스템이 있다고 하더라도 , 물리적 세계는 여전히  물리 법칙에 따라 작동합니다.

 예를 들어, 공장, 로봇, 이런 것들이죠.

 그래서,  이런 종류의 디지털 지능이 실제로 효과를 발휘하기까지는 시간이 좀 걸릴 겁니다.

 현실 세계의 많은 것들에 큰 영향을 미칠 것 같아요.

 아마 10년 이상 걸릴 수도 있겠지만, 더 빨리 나타날 수 있다는 다른 이론도 있습니다.

 응.

 에릭 슈미트는 구글에서 일했던 것 같은데, 음, 그게 거의 이진법적인 것과 같다고 말했어요.

 그는 예를 들어 중국이 AGI를 획득한다면 우리는 망할 거라고 말합니다.

 누군가가 다음 사람이 나타나기 10분 전에 그것을 획득한다면 결코 따라잡을 수 없을 테니까요.

 그러면 중국은 계속해서 더 큰 우위를 점할 수 있을 테니까요.

 당신은 그것을 믿지 않아요.

  아마도 알려지지 않은 것 같아요.

 이는 많은 미지수 중 하나로, 때때로 이를 하드 이륙 시나리오라고 부르는데, 이 AGI 시스템은 자체 개선이 가능하거나 미래 버전의 자체 코드를 작성할 수 있으며, 이를 매우 빠르게 수행할 수 있다는 아이디어입니다.

 그럼 약간의 우위가 있을까요? 며칠이 지나면 갑자기 심연이 될 수도 있겠지만, 사실 그 외에도 여러 가지 방법이 있습니다.

  점진적으로 진행되는 자기 계발의 일부는  그런 식으로 가속화할 수 없습니다.

 그렇다면 비슷한 시기에 진행된다고 해서 큰 차이는 없을 겁니다.

 하지만 중요한 건 이런 문제와 지정 학적 문제입니다.

 구축되는 시스템에는  설계자의 가치와 규범, 그리고 그들이 뿌리내린 문화가 어느 정도 반영될 것입니다.

 그래서  이런 종류의 국제적 문제가 중요하다고 생각합니다.

 그럼 구글에서 AI를 만들 때 그런 점을 염두에 두셨나요?  그게 사실이라면, 경쟁이 필수적이라고 생각하시나요? 맙소사, 우리가 먼저 가야겠다.

 지금은 현장에서 매우 힘든 시기를 보내고 있습니다.

 모든 사람이 많은 자원이 필요하다는 것을 알고 있기 때문입니다 .

 많은 압력과 조사해야 할 것들이 많고,  다양한 유형의 압력이 발생합니다.

 우리는 분명 AI 시스템이 할 수 있는 모든 훌륭한 일을 원합니다 .

 저는 결국 우리가  AlphaFold에서 한 것처럼 의학과 과학을 발전시켜 새로운 질병 치료법, 새로운 에너지원, 인류를 위한 놀라운 것들을 만들어낼 수 있을 것이라고 생각합니다.

 이것이 바로 AI의 약속입니다.

 하지만 문제는 알려지지 않은 부분이 많다는 것이다.

 그런 일 이 얼마나 빨리 일어날지, 얼마나 위험할지는 알 수 없습니다.

 하지만 제 생각에는, 아직 알려지지 않은 것이 너무 많기 때문에, 우리는 그것들을 극복할 수 있을 것이라고 낙관합니다 .

 음, 적어도 기술적으로 보면 지정 학적 문제는  충분한 시간과 주의와 사려 깊음이 주어진다면 실제로 더 까다로워질 수 있다고 생각합니다.

  과학적 방법을 사용하여 AGI 지점에 접근하는 것은 완벽하게 말이 되지만 반면에 그런 시간적 여유가 있다면 우리에게는 시간이 별로 없습니다.

 아니요, 우리는 시간이 별로 없습니다.

 제 말은, 우리는 점점 더 보안과 사이버 같은 것에 자원을 투자하고 있으며,  이러한 시스템을 이해하기 위한 제어 가능성에 대한 연구도 하고 있는데, 이를 기계적 해석 가능성이라고 합니다.

  AI에는 다양한 하위 분야가 있기 때문에 투자가 이루어지고 있는 분야를 해석하고 싶고, 더 많은 투자가 필요하다고 생각합니다 .

 음, 그리고 동시에 우리는  제도적 구축에 대한 사회적 토론도 더 많이 해야 합니다.

 우리는 거버넌스가 어떻게 작동하기를 원합니까?  최소한 이러한 시스템을 어떻게 사용하고 배치하고 구축할지에 대한 기본 원칙에 대해 국제적인 합의를 어떻게 얻을 수 있을까요? 시장에서의 작업에 미치는 영향은 어떤가요 ? AI가 사람들의 일자리를 얼마나 바꿀 것이라고 생각하시나요 ? 아시죠, 노동력 내에서 일자리가 분포되는 방식이에요.

 제 생각에는 아직 변화가 없는 것 같습니다.

 경제학자들과 이야기를 나눠보면, 그들은 아직까지 별로 변화가 없다고 느낀다는 겁니다.

 아시 다시피, 사람들은 이런 도구가 특정 도메인, 예를 들어 Alphafold 같은 곳에서 유용하다는 걸 확실히 알고 있습니다 .

 많은 과학자들이 이를 이용해 연구 속도를 높이고 있습니다 .

 그래서 지금은 첨가적인 것 같습니다 .

 다음 5년, 10년 안에 무슨 일이 일어날지 지켜보겠습니다.

 저는 일자리에 많은 변화가 있을 것이라고 생각 하지만, 과거에도 그랬듯이  실제로 이러한 도구나 새로운 기술을 활용하는 것이 더 나은 새로운 일자리가 창출되는 경향이 있다고 생각합니다 .

 인터넷에서 일어난 일이  모바일에서도 일어났습니다.

 이번에는 다를지 봅시다 .

 당연히 모든 사람은 이 새로운 것이 다를 것이라고 생각하고, 어쩌면 실제로 다를 수도 있습니다.

 음, 하지만 저는 앞으로 몇 년 안에 생산성을  엄청나게 높여주고, 우리를  창의적인 도구로 만들어주는 놀라운 도구들이 등장할 가능성이 가장 높다고 생각합니다.

 그리고 실제로 우리가 개별적으로 생산하는 것에서는 우리를 초인적으로 만들어줄 것입니다  .

 그래서 저는  다음 시대에는 우리가 할 수 있는 일의 황금기가 올 것이라고 생각합니다.

 글쎄요, AGI가 인간이 할 수 있는 모든 일을 할 수 있다면 새로운 직업도 할 수 있을 것 같습니다 .

 다음 질문은 AGI가 무엇을 가져오는지에 대한 것입니다.

 하지만 그런 능력이 있다 하더라도 , 기계로는 하고 싶지 않은 일이 많을 것 같아요 .

 아시다시피, 저는 가끔 의사와 간호사에 대한 예를 들어보곤 합니다 .

 아시다시피, 의사가 하는 일과 진단을 AI 도구의 도움을 받거나 심지어 AI와 같은 의사를 두는 것도 상상할 수 있을 겁니다.

 반면에 간호 같은 일은 로봇이 하는 게 좋지 않을 것 같아요 .

 저는 그 안에 인간적인 공감과 배려의 측면이 특히 인간적이라고 생각합니다.

 그런 예가 많이 있을 것 같지만, 확실히 다른 세상이 될 거예요 .

 AGI 시대에 평생 계속 일하기 위해 졸업생과 이야기를 나눈다면 어떤 조언을 해주시겠습니까  ? 제 생각은 현재와 물론  기술이 발전함에 따라 항상 변하고 있지만 지금으로서는 다음 5년을 생각해 보면 가장 생산적인 사람들은 이러한 도구를 모국어로 사용한다면 10배 더 생산적일 수 있습니다.

  그래서 오늘날의 어린이와 학생들에게 제가 격려하고 싶은 것은 이러한 새로운 시스템에 푹 빠져서 이해하라는 것입니다.

 그래도 여전히 STEM과 프로그래밍 및 기타 사항을 공부하여 그것들이 어떻게 구축되었는지 이해하고,  사용 가능한 모델에 맞춰 직접 수정할 수 있도록 하는 것이 중요하다고 생각합니다.

 훌륭한 오픈소스 모델이 많이 있고,  미세 조정, 시스템 프롬프트, 시스템 지침 등 누구나 할 수 있는 이러한 모든 추가적인 것들이 있으며, 이러한 도구를 최대한 활용하는 방법을 알고  연구 작업, 프로그래밍, 과정에서 수행하는 작업을 위해 이를 수행하고,   무엇을 하든 이러한 새로운 도구를 활용하는 데 뛰어난 능력을 발휘하게 됩니다 .

 5년, 10년 범위를 조금 넘어서 살펴보겠습니다 .

  이런 일이 실제로 일어난다면 20년 후, 그리고 30년 후 우리의 미래를 어떻게 예상하시는지 말씀해 주세요 .

 AGI가 모든 곳에 생기면 세상은 어떻게 될까요 ? 글쎄요, 모든 게 잘된다면, 우리는 제가 급진적 풍요라고 부르는 시대에 도달하게 될 겁니다  .

 그러니까 AGI는 사회가  직면한 핵심적인 문제 중 일부를 해결하는 셈이죠 .

 그래서 좋은 예 중 하나는 질병을 치료하고, 훨씬 건강하게 더 오래 사는 것입니다.

 새로운 에너지원을 찾는 것, 최적의 배터리나 상온 초전도체 핵융합 같은 것이요.

 그리고 이 모든 것이 일어난다면, 우리는 최대한 인간이 번영할 수 있는 시대가 되어야 합니다.

 우리는 별을 여행하고 은하계를 식민지화해야 합니다.

 음, 저는 그런 일이 시작되는 시기가 앞으로 20~30년 안에 올 거라고 생각합니다.

 다음 시기가 잘 진행된다면 말이죠.

 저는 그것에 대해 약간 회의적입니다.

 우리는 지금 믿을 수 없을 만큼 풍요로운 삶을 살고 있지만, 그것을 공평하게 분배하지 못하고 있습니다.

 저는 우리가 기후 변화를 해결하는 방법을 어느 정도 알고 있다고 생각하지만,  아직은 실행하지 않고 있습니다.

 AGI가 우리에게 어떻게 해야 할지 말해줄 필요는 없습니다.

 나는 그것에 동의합니다 .

 저는 우리 인류가 인류 사회 전체에서 협력에 능숙하지 못했다고 생각합니다 .

 저는 기후가 좋은 예라고 생각합니다.

 하지만 저는 우리가 아직도 살아가고 있고, 인간은 아직도 제로섬 게임의 사고방식으로 살아가고 있다고 생각합니다.

 왜냐하면 실제로 지구는  지금의 인구와 도시에 비하면 매우 유한하기 때문입니다.

 그리고 제가 말하고자 하는 것은 우리의 자연 서식지가 파괴되고 야생 동물과 기후, 그리고 모든 것에 영향을 미치는 이유입니다.

 그리고 사람들이 받아들이려 하지 않는 것도 이유 중 하나입니다 .

 우리는 지금 기후를 알아내려고 노력하지만, 사람들이 희생을 치러야 하는데 사람들은 희생을 원하지 않습니다.

 하지만 이런 급격한 풍요로움은 다른 것을 의미할 것입니다.

 마침내 우리는 마치 0 이 아닌 합이 되는 게임 같은 느낌을 받게 될 것입니다.

 어떻게 하면 조던을 그 자리에 포함시킬 수 있을까? 질병에 관해 말씀하시는 것처럼요 .

 예를 하나 들어보겠습니다.

 우리는 백신을 가지고 있고 이제 일부 사람들은 우리가 백신을 사용해야 한다고 생각합니다.

 아주 간단한 예를 들어보겠습니다.

 물 접근.

 이건 앞으로 10~20년 동안 큰 문제가 될 거예요.

 이미 문제입니다.

 나라마다 다르겠지만 , 세계의 가난한 지역, 건조한 지역에서도 기후 변화가 분명히 나타나고 있습니다.

 우리는 물 접근에 대한 해결책을 가지고 있습니다.

 담수화예요.

 간단하죠.

 바닷물이 풍부해요.

 거의 모든 나라에는 해안선이 있지만, 문제는 바닷물이 짜다는 것입니다.

 하지만 담수화는 매우 부유한 나라들, 몇몇 나라에서만 실시하며 담수화는 담수 문제의 해결책으로 사용됩니다.

 하지만 많은 에너지가 소모됩니다.

 하지만 에너지가 본질적으로 0이라면, 재생 가능하고 무료인 깨끗한 에너지가 있는 게 맞나요? 융합처럼 갑자기 물 접근 문제가 해결됩니다.

 이런 예로 로켓 연료를 쉽게 만들 수 있습니다.

 바닷물에서 수소와 산소를 분리하기만 하면 되는데, 그게 바로 에너지입니다.

 당신은 이윤을 추구하는 기업이 혁신을 주도하는 것이 올바른 길이라고 생각하십니까 ? 우리는 그것을 통해 낙관적인 최고점에 도달할 가능성이 가장 높습니다.

 저는 현재의 자본주의, 혹은 서구의 민주주의 체제가 지금까지 진보를 이끄는 가장 좋은 원동력이라는 걸 증명했다고 생각합니다 .

 그래서 저는 그것이 사실이라고 생각해요.

 제 생각에는 그런 급진적인 풍요의 단계에 이르고 AGI 이후가 되면 경제학은 가치와 돈의 개념까지도 바꾸기 시작할 것이고, 그래서 경제학자들이 왜 이 분야 에 더 열심히 노력하지 않는지 잘 모르겠습니다.

 경제학자들이 그것이 그렇게 가깝다고 믿지 않는 것일 수도 있지만, 만약 그들이 AGI 과학자들처럼 정말로 그렇게 한다면,  많은 새로운 경제 이론이 필요하다고 생각합니다.

 사실 저는 이것이 매우 중요하고 엄청난 영향을 미칠 것이라는 데 동의합니다.

 하지만 제가 이에 대해 글을 쓸 때, 저는  인공 지능과 그에 따른 현상에 대해 이미 화가 난 사람들로부터 항상 많은 반응을 얻습니다.

 그거 맛본 적 있나요?  많은 사람들로부터 반발과 분노를 샀나요? 마치 산업혁명 당시 사람들과 비슷해요.

 응.

 제 말은, 저는 개인적으로 그런 일이 많이 일어나는 것을 본 적은 없지만,  그에 대해 많이 들어봤기 때문에 이해할 수 있는 일이라고 생각합니다.

 산업혁명이라고 하면 큰 변화, 큰 혁명이 있을 때 많이 일어났던 일이죠.

 저는 이 혁명이 최소한 산업혁명만큼은 크겠지만 , 아마도 훨씬 더 클 것이라고 생각합니다.

 놀랍네요.

 알려지지 않은 것도 있습니다.

 무섭죠.

 상황은 바뀔 것이다.

 하지만 반면에, 제가 사람들에게 열정과 제가 AI를 만드는 이유에 대해 이야기할 때 , 그것은 과학과 의학을 발전시키고  우리 주변 세계에 대한 이해를 넓히는 것입니다.

 그리고 저는 사람들에게 이것이 그저 말뿐이 아니라는 것을 설명합니다.

 저는 AlphaFold가 노벨상을 수상한 획기적인 기술이 의학과 신약 발견에 도움이 될 수 있다는 것을 보여주었습니다.

 당연히 우리는 이것을 동형으로 확장하여 약물 발견에 활용하고 있습니다.

 그리고 우리는 질병을 치료할 수 있습니다.

  가족을 괴롭히는 끔찍한 질병을 말이죠.

 갑자기 사람들은 이게 당연히 필요하구나 생각하게 됐어요 .

 그것이 우리에게 가능하다면 그것을 갖지 않는 것은 부도덕한 일입니다 .

 글쎄요, 당신의 낙관주의가 유지되고 정당하기를 바랍니다.

 매우 감사합니다.

 최선을 다하겠습니다.

 이리 오세요.