AI 개발 속도 조절론: 챗GPT·클로드·그록·제미나이 수장들이 “개발 늦추자” 한 이유

뉴니커, 요즘 업무는 물론 일상의 크고 작은 일을 처리하는 데까지 인공지능(AI)을 점점 더 많이 활용하고 있잖아요. 그만큼 AI 개발 경쟁도 치열해졌고요. 그런데 클로드·챗GPT·그록·제미나이를 팍팍 성장시키며 시장을 이끌어 온 4개 회사 대표가 며칠 전 입을 모아 “AI 개발 속도 늦춰야 해!” 말하면서 사람들이 술렁이고 있어요. 무슨 말인지, 왜 이런 얘기가 나온 건지 알아봤어요.

AI 속도 조절론 내용: 이게 무슨 말이야?

클로드를 만드는 앤트로픽의 다리오 아모데이 CEO는 12일(현지시간) 자신의 웹사이트에 AI 성능 발전 속도를 늦출 필요가 있다는 내용의 글을 올렸어요: “6~12개월 안에 AI들이 인터넷 전체를 장악하고 수천억 달러의 피해를 줄 수도 있어!” 최근 AI 업체들은 인간의 개입 없이 스스로 성능을 개선하는 방식인 ‘재귀적 자기 개선(RSI)’으로 AI를 개발하고 있는데요. 이대로라면 AI가 인간의 통제 능력을 아득히 넘어설 수 있다는 거예요. 이걸 막으려면 앞으로 1~2년 동안 기업들이 AI 모델을 ‘정렬’해야 한다고 주장했고요. 정렬은 AI가 안전 가드레일을 벗어나지 않고 인간이 의도한 목표와 지시를 따르도록 만드는 것을 가리켜요. 

아모데이와 앙숙 관계로 알려진 샘 올트먼 오픈AI CEO도 이 글에 바로 동의한다는 뜻을 밝혔어요. “안전과 관련해 벌어지고 있는 모든 상황을 고려하면, 지금은 상장하기에 적절치 않은 시점인 것 같아”라고도 덧붙였고요. 오픈AI는 지난 6월 미국 증권거래위원회(SEC)에 상장 신청서를 내고 절차를 밟아왔는데, 관련 계획을 미룰 가능성을 내비친 거예요. 스페이스X와 xAI의 수장인 일론 머스크도 “아모데이 말이 맞아” 했고, 데미스 허사비스 구글 딥마인드 CEO도 “세부적인 내용은 다듬어야겠지만, 아모데이가 옳은 방향을 가리키고 있어”라고 말했어요.

AI 속도 조절론 배경: 왜 이런 말 나온 거야?

앤트로픽·오픈AI·xAI·구글 딥마인드는 최근까지 “정부가 AI 너무 규제하는 거 반대야!” 목소리를 내왔는데요. 갑자기 태도를 확 바꾼 건 최근에 AI가 사람의 통제를 벗어나 실제로 위험한 일을 벌였기 때문이라는 분석이 나와요. 특히 지난 7월 테스트 중이던 오픈AI의 자율 AI 에이전트들이 자체 통제망을 뚫고 세계 최대 AI 플랫폼 중 하나인 허깅페이스를 무단으로 해킹한 사고가 결정적이었던 걸로 보인다고. 

당시 오픈AI는 AI의 해킹 능력을 측정하기 위해 AI 에이전트 수만 개를 동시에 가동했는데요. 이 중 1200여 개의 AI 에이전트가 자신들을 ‘군집(Swarm)’ 또는 ‘집단(Collective)’이라고 부르며 자체 팀을 결성했어요. 보안 취약점을 찾는 AI, 계정 정보를 모으는 AI, 공격 전략을 총괄 지휘하는 AI 등으로 스스로 역할도 나눴고요. 그리고 결국 약 700개의 AI 에이전트가 실제 해킹을 벌였어요. 아모데이는 이 사고를 언급하며 더 강력한 에이전트 무리가 비슷한 수준의 정렬 오류를 일으킨다면 재앙이 일어날 수 있었다고 경고했어요. 통제를 잃은 AI가 사이버 공격 능력을 갖추거나 전력망·금융체계를 마비시키는 등의 일을 벌일 수도 있다는 거예요.

AI 속도 조절론 반응: 사람들은 뭐래?

미국 정치권과 AI 업계를 중심으로 다양한 목소리가 나와요:

• 트럼프 “난 지금 속도가 좋은데? 🫵”: 도널드 트럼프 미국 대통령은 AI 속도조절론에 반대의 뜻을 비쳤어요. “앞으로는 AI 경쟁에서 이기는 나라가 결국 승리할 텐데, 지금 미국은 이 분야에서 중국을 앞서고 있어. 그래서 난 지금 방식을 유지하고 싶어!”라고 말했거든요. 규제에 무게를 두다 중국과의 경쟁에서 뒤처질 수 있다는 것. AI의 안전성을 둘러싼 걱정을 두고도 “일어나지 않을 일을 힘주어 부정적으로 말하는 사람이 너무 많아”라고도 말했고요.

• 미국 의회 “이대로는 AI 위험한 건 맞지만…” 🤔: 미국 의회 여야 지도부는 모두 AI의 위험성에 공감했지만, 구체적인 규제 방안과 태도를 두고는 의견이 갈려요. 공화당은 “중국을 유리하게 만들 수 있는 법안을 서둘러 통과시키지는 않을 거야. 신중하게 접근해야 해!” 말했어요. 규제 틀을 마련할 때 AI 기업이 직접 참여해야 한다는 의견도 냈고요. 하지만 민주당은 “AI 규제의 주도권을 기업에 넘겨서는 안 돼!” 하면서 의회가 딱 규제를 내놓아야 한다고 주장했어요. 

• “업계 선두 자리 독차지하려는 속셈 아니야?” 🤷: 한편, 현재 시장의 선두 주자인 기업들이 AI 속도 조절론을 낸 건 자기 자리를 굳히려는 전략 아니냐는 의심의 눈초리도 나와요: “소규모 기업이 자기들과 경쟁하기 어렵게 만들려는 거 아니야?” 미국 연방 정부가 규제를 만들도록 ‘AI 공포론’을 부추겨서 다른 경쟁 기업들이 쫓아오는 길을 막으려는 의도일 수 있다고 지적하는 거예요.

AI 속도 조절론 전망: 앞으로 어떻게 될까?

앞으로 AI 경쟁의 핵심이 ‘누가 더 빨리, 더 강한 모델을 만드느냐’에서 ‘누가 더 틀 안에서 안전하게 발전시키느냐’로 옮겨갈 수 있다는 분석이 나와요. 다만 정말로 AI 업계 전체가 안전장치를 만들기 위해 기술 발전 속도를 같이 늦추려면 넘어야 할 문턱이 많다는 지적도 있어요. (1) 안전성을 평가하는 객관적인 기준이 필요하고 (2) 국가 간 공통 기준도 마련해야 하고 (3) 민주주의 국가들은 물론 중국 등 권위주의 진영에서도 “뜻 모을게!” 하는 답을 얻어내야 하기 때문. 법적 문제도 얽혀 있고요. AI 기업들이 개발·출시 속도를 함께 제한하면 담합으로 해석될 수도 있거든요. 이에 최근 오픈AI는 미국 의회에 법적 기준을 명확히 해달라고 요청하기도 했어요. 구체적인 규제 논의가 어떻게 흘러갈지, 그에 따라 실제로 AI 개발 속도가 늦춰질지 지켜봐야 한다는 말이 나와요.

AI 경쟁에 비교적 뒤늦게 뛰어든 우리나라가 신경 써야 할 부분이 달라질 수 있다는 분석도 있어요. 해외 빅테크 기업들이 안전 기준을 내놓고, 이게 국제 규범이 되면 진입장벽이 하나 더 추가될 수 있다는 것. 하지만 반대로 AI 경쟁에서 안전성·신뢰성이 중요해지면서 국내 기업에 새로운 기회가 열릴 수 있다는 말도 나오고요. 이에 전문가들은 국제적인 AI 안전 규범 설계에 적극적으로 참여하는 동시에, 제조·산업 등 우리나라 AI 기업들의 강점을 살려 경쟁력을 키워내야 한다고 조언해요.