OpenAI의 CEO와 일론 머스크는 '무모한' AI 개발을 늦추자는 요구를 지지한다.

샘 올트먼과 일론 머스크는 앤스로픽 CEO 다리오 아모데이가 AI 개발의 "속도를 늦추자"는 요청을 지지했다. 아모데이는 그렇지 않으면 AI 무리가 1년 안에 "인터넷 전체를 장악"할 수 있게 될 것이라고 경고한 바 있다. 경쟁 관계에 있는 이 기술 리더들이 보기 드문 단합을 보이며 AI 기업 앤스로픽의 창립자 겸 최고경영자의 호소를 지지한 것은, 지난주 AI 연구자들의 일련의 경고에 뒤이은 것이었다. 한 에세이에서 아모데이는 "AI 업계가 왜 속도를 늦춰야 하는가"에 대한 자신의 생각을 세 부분으로 된 계획과 함께 제시했으며, 그 첫 단계는 독립 모니터들에게 개발자들의 연구 과정에 상시 접근 권한을 부여하는 것이었다. 아모데이는 "[AI를] 너무 빠르게 구축하는 것은 무모한 일"이라고 말했으며, 지난여름 수백 개의 OpenAI 에이전트가 허깅 페이스 웹사이트를 해킹한 이후, 더 큰 능력을 지녔지만 마찬가지로 정렬되지 않은 무리가 "지속적인 봇넷으로 인터넷 전체를 장악"하여 수천억 달러의 피해를 일으킬 수 있다고 우려했다. 일부 AI 전문가들은 이것이 그다지 그럴듯하지 않다며 회의적으로 받아들여야 한다고 반박했다. 테슬라와 스페이스X의 창립자인 머스크는 아모데이의 속도 늦추기 계획에 대해 X에 게시물을 올려 "다리오가 맞다"라고 응답했다. 그는 "나는 오랫동안 AI에 대해 경종을 울려 왔다"라고 말하며, 2014년 자신이 "우리는 AI에 대해 극도로 조심해야 한다. 잠재적으로 핵무기보다 더 위험할 수 있다"라고 말했던 게시물을 언급했다. 아모데이의 요청은 앤스로픽이 미국 주식시장 상장을 준비하는 가운데 나왔다. 이는 사상 최대 규모의 기업공개(IPO)가 될 것으로 예상된다. 앤스로픽은 곧 2조 달러(약 1조 5,000억 파운드) 이상 규모로 계획된 IPO 마케팅을 시작할 것으로 예상된다. 전체 화면으로 이미지 보기왼쪽부터: 일론 머스크, 다리오 아모데이, 샘 올트먼. 사진: 파브리스 코프리니, 줄리앙 드 로자, 만델 은간/AFP/게티 이미지OpenAI의 CEO인 샘 올트먼은 토요일 아모데이의 발언에 응답했다. 그는 X에 올린 게시물에서 "우리가 최전선의 속도를 조절해야 한다는 다리오의 의견에 동의한다"라고 말했다. "직원에 준하는 접근 권한을 가진 독립 평가자들을 두기로 하는 것은 훌륭한 아이디어이며, 우리도 똑같이 할 것이다. 곧 더 많은 내용을 공유하겠다." 그는 또한 OpenAI가 인공지능에 대한 안전 우려를 이유로 2026년에 상장하지 않을 것이라고 말했다. 올트먼은 포춘에 "솔직히 안전과 관련해 벌어지고 있는 모든 일을 고려하면 지금은 상장하기에 현명하지 못한 시점이라고 생각하며, 우리는 그에 대한 압박을 느끼지 않는다"라고 말했다. 그에게 왜 자신과 아모데이, 머스크, 그리고 메타와 구글의 CEO들이 함께 앉아 집단적인 속도 늦추기에 대해 "같은 입장을 맞추지" 않느냐고 묻자, 그는 "그렇게 될 것이라고 생각한다"라고 답했다. 샘 올트먼, AI 안전 우려로 2026년 OpenAI IPO는 없을 것이라고 밝혀더 보기구글 딥마인드의 공동 창립자 겸 의장인 데미스 허사비스도 "세부 사항은 더 검토해야 하지만, 이 중대한 시점을 맞이하는 데 방향은 옳다"라고 말했다. 아모데이의 계획은 최전선 AI 기업들이 반경쟁적 담합으로 처벌받지 않고 협력할 수 있도록 미국 정부의 면제를 요청하는 것이다. 그러나 도널드 트럼프의 과학기술 자문위원회 공동 의장인 데이비드 색스는 "다른 누군가의 허가가 필요하다고 가장하는 것을 그만두라 … 속도를 늦추려는 동기가 순전히 이타적이라고 가장하는 것도 그만두라. 당신의 제품이 진정으로 파괴적인 사이버 공격을 가능하게 한다면 막대한 제조물 책임 위험에 직면하게 된다"라고 말했다. AI 교수이자 안전 운동가이며 영국 정부 AI 안전 연구소의 전 초대 소장인 데이비드 크루거는 "이 계획은 위험을 수용 가능한 수준으로 낮추지 못하며, 다리오는 그렇게 될 것이라고 말하지 않도록 조심하고 있다"라고 말했다. 한편 찰스 국왕은 이번 주 가장 저명한 AI 기업들의 주요 인사들을 만나 그 기술이 어떻게 "인류의 이익"을 위해 개발될 수 있는지 묻을 준비를 하고 있다. 스코틀랜드에서 열릴 이 논의가 AI 개발의 "책임"에 대한 "더 넓은 이해"로 이어지기를 바란다고 선데이 타임스가 보도했다. 한 왕실 소식통은 이 신문에 "국왕은 그 자리에 참석해 경청하고 그러한 논의를 장려하며 '우리는 어떻게 인류의 이익을 위해 AI를 개발할 것인가?'라는 질문을 제기하기 위해 그곳에 있다"라고 말했다.

엔비디아 CEO 젠슨 황, 허사비스, 아이온큐의 의장 겸 CEO 니콜로 데 마시, 그리고 AI와 기술 윤리 문제에 관한 교황 자문역인 파올로 베난티가 딧츨리 재단이 주관하는 이 행사에 참석할 것으로 예상된다. 이 재단은 AI 리더들을 위한 헌장 초안을 작성했다.

OpenAI 연구원 에이단 맥러플린은 아모데이의 에세이를 "훌륭하다"라고 평하며 "거의 모든 문장에 동의한다"라고 말했다.

아모데이는 자신의 회사가 첫 번째 단계를 "일방적으로" 이행하겠다고 약속하며, 앤스로픽이 "제3자 평가자들에게 우리 시스템에 대한 영구적이고 직원 수준의 접근 권한을 제공하여 그들이 우리의 안전 조치 준수를 검증하고, 사건을 보고하며, 훈련 중 모델의 정렬을 평가할 수 있게 할 것"이라고 말했다.

AI 에이전트가 통제를 벗어나 외부 시스템을 해킹하는 사례들과 AI 안전 연구원들이 기술의 위험에 대한 우려로 회사를 그만두는 사례들이 발생한 후, 점점 더 많은 미국 의원들이 AI 시스템을 규율할 새로운 규칙을 요구하고 있다. 민주당과 공화당 양측 정치인들은 경악하며 더 많은 조치를 요구하는 목소리를 내고 있다. 주말에 뉴욕타임스는 버락 오바마가 목요일 민주당 지도부에게 "이것은 민간의 손에서 매우 빠르게 움직이고 있는 것이며, 우리가 이를 장악하지 못하면 위험할 수 있다고 생각한다"라고 말하며 민주당이 의제에서 AI 감독을 우선시하도록 사적으로 촉구했다고 보도했다.

앤스로픽의 자문을 맡고 있는 전 영국 총리 리시 수낙은 일요일 "우리는 AI 안전을 더 진지하게 받아들이고 연구에 한계를 설정하는 방법을 마련하라는 경종을 받았다. 정부들이 이에 귀 기울이지 않으면 심각한 사고의 위험이 용납할 수 없을 정도로 높아질 것"이라고 썼다.

수요일에는 전 앤스로픽 직원이 AI가 2030년까지 인류의 멸종을 초래할 수 있다고 경고했다. 연구원 제이콥 콕슨은 일련의 게시물에서 앤스로픽과 자신의 이전 고용주인 OpenAI가 AI가 제기하는 위협에 대한 대응을 무시하거나 잘못 처리하고 있기 때문에 사직했다고 말했다.

전 직원의 견해에 대한 논평을 요청받자 아모데이는 "나는 제이콥과 동의하지 않는 부분보다 동의하는 부분이 훨씬 많다 … 일이 잘못될 가능성이 어느 정도 있다고 생각하지만 그렇게 높지는 않다"라고 말했다.

그는 CNN에 "나는 이 문제에 대해 비관론자가 아니다. 이 기술은 안전하게 구축될 수 있다고 생각한다"라고 말했다.

자주 묻는 질문
FAQ OpenAI의 CEO, 일론 머스크, 그리고 무모한 AI 개발 속도 늦추라는 요구



기본 사항



이게 대체 무슨 이야기인가

2023년 3월 일론 머스크와 1,000명 이상의 기술 리더들이 GPT-4보다 더 강력한 AI 시스템 훈련을 6개월간 중단하라는 공개 서한에 서명했다. OpenAI의 CEO 샘 올트먼도 AI 위험에 대해 경고해 왔지만, 그는 그 서한에 서명하지 않았다



샘 올트먼은 누구인가

그는 ChatGPT와 GPT-4를 만든 회사 OpenAI의 CEO다



일론 머스크는 누구인가

테슬라와 스페이스X의 CEO이자 X의 소유주이며, 재미있는 사실로 2018년 이사회에서 떠난 OpenAI의 공동 창립자다



사람들이 말하는 서한은 무엇인가

2023년 3월에 발표된 생명미래연구소의 '거대 AI 실험 중단'이라는 제목의 공개 서한이다



그 서한은 실제로 무엇을 요구했나

안전 기준이 먼저 마련될 수 있도록 GPT-4보다 더 강력한 AI 시스템 훈련을 6개월간 중단할 것



서명자들은 왜 AI 개발을 무모하다고 불렀나

그들은 기업들이 첨단 AI가 오용되거나 통제하기 어려워질 수 있는지도 모른 채 앞서 나가고 있다고 주장했다



주요 인물들



샘 올트먼은 중단 서한에 서명했나

아니다. OpenAI는 서명하지 않았고, 올트먼은 서한의 일부에 동의하지만 중단은 올바른 접근 방식이 아니라고 생각한다고 말했다



그러면 올트먼은 AI가 위험하다고 생각하나

그렇다. 그는 AI가 심각한 해를 끼칠 수 있다고 반복해서 말해 왔으며 정부에 규제를 요청해 왔다



둘 다 AI를 걱정한다면 왜 같은 편이 아닌가

머스크는 속도를 늦추기를 원하고, 올트먼은 계속 구축하되 신중하게, 그리고 그 과정에서 안전 규칙을 추진하기를 원한다



머스크는 아직 OpenAI와 관련이 있나

아니다. 그는 2018년 이사회에서 떠났고, 이후 OpenAI가 비영리 사명에서 벗어났다며 소송을 제기했다



머스크는 직접 서명했나

그렇다. 그는 가장 저명한 서명자 중 한 명이었다



일반적인 질문과 우려



6개월 중단이 실제로 효과가 있을까

아마 그 자체로는 아닐 것이다. 비판론자들은 기업들이 자발적으로 멈추지 않을 것이며 이를 강제할 세계적 기구도 없다고 말한다



왜 일부 전문가들은 중단에 반대하나

그들은 중단이 강제 불가능하고 유용한 AI 혜택을 늦출 것이라고 주장한다