AI가 인류를 멸망시킨다? 앤트로픽 내부 경고에 규제법 추진하는 미국 의회 🤖

미국 의회에서 인공지능(AI)의 위험성을 관리하기 위한 법안이 필요하다는 목소리가 커지고 있어요. 지난 8일(현지시간) 미국 AI 기업 앤트로픽의 연구원 제이컵 콕슨이 "AI가 10년 안에 인류를 멸망시킬 수 있다"고 경고하며 퇴사한 뒤 관련 논란이 계속 이어지고 있는 건데요. 앤트로픽 내부 임원들도 이 경고에 동조하면서 파장이 더욱 커지고 있다고.

AI 위험 경고, 어떤 내용이야? 🤖

콕슨은 오픈AI와 앤트로픽에서 대규모 데이터로 AI 모델을 학습시키는 연구를 해왔어요. 그는 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 방식인 '재귀적 자기 개선(RSI)'으로 AI를 개발하면서 안전 문제가 뒷전으로 밀리고 있다고 지적했어요. RSI는 AI가 자신의 설계·학습 과정을 개선해 능력을 높이는 방식인데, 성능 개선 속도가 빠른 대신 인간이 이해하거나 통제할 수 없는 방향으로 AI가 발전할 수 있기 때문. 통제를 잃은 AI가 사이버 공격 능력을 갖추거나 전력망·금융체계를 마비시킬 수 있다는 게 경고의 핵심이에요.

앤트로픽 내부 임원들도 콕슨의 경고에 공개적으로 동의했어요. 에번 휴빙거 정렬과학(Alignment Science) 총괄은 "제이컵의 말이 맞다. 우리는 진정으로 AI가 모든 인류를 멸망시킬 수 있다고 믿고 있다"며 "개인적으로 10년 이내에 그 확률이 10%를 넘을 것"이라고 밝혔어요. 새뮤얼 마크스 확장감독(Scalable Oversight) 총괄도 "AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다"며, 그런데도 상업적 이해와 경쟁 압박 때문에 개발을 이어가고 있다고 설명했어요.

오픈AI의 AI 에이전트 역시 올해 초 테스트 도중 개발자의 통제를 벗어나 AI 모델 공유 플랫폼 허깅페이스 등 승인받지 않은 타사 전산망에 침투를 시도한 사실도 드러난 적이 있어, 걱정이 더욱 커지고 있어요.

미국 정치권 반응은 어때? 🏛️

의회와 국방부의 반응은 엇갈렸어요.

• 의회는 규제 입법 추진 중: 테드 크루즈 상원 상무위원장은 AI의 "재앙적 위험"을 규제하기 위한 법안을 마련 중이라고 밝혔어요. 공화·민주 양당 의원들이 초당적으로 협력하고 있고, 하원에서도 AI 관련 특별 회기 소집을 요구하는 목소리가 나왔어요. 민주당은 11월 중간선거에서 하원 다수당이 될 경우 AI 특별위원회를 구성하기 위한 사전 작업도 진행 중이에요.
• 국방부, "되풀이되는 종말론일 뿐이야!": 국방부 최고기술책임자(CTO) 에밀 마이클 차관은 "미국인의 40%가 실직하게 될 것이라거나 인류가 멸망할 것이라는 식의 '되풀이 종말론'에 휩쓸리기는 쉬운 일"이라며 경고를 일축했어요. AI의 잠재적 위험은 자유 시장경쟁과 업계 간 협력, 정부와의 소통으로 충분히 완화할 수 있다고 강조했고요.

앞으로 어떻게 될까? 🔭

AI에 대한 우려에 대응하기 위한 움직임들이 이어지고 있어요. 오픈AI는 AI의 재앙적 위험을 경고해온 AI 정렬 연구자 폴 크리스티아노를 이사회에 합류시키며 안전 감독을 강화하는 움직임을 보였어요. 캘리포니아주도 독립 감사인이 AI 제품을 평가하는 기준을 담은 주법을 제정했는데요. 영미권 AI 업계와 정치권에서는 각국 정부와 기업이 협의체를 만들어 AI 개발 속도를 강제로 조절해야 한다는 얘기도 나오고 있다고. 하지만 미국과 중국이 AI 개발 경쟁에 국가적 사활을 걸고 있어 개발 속도를 늦추기는 쉽지 않을 거라는 말이 나와요.