GPT-6.1 아스트라, 오픈AI가 출시 철회한 이유가 '인간 기만 가능성' 때문이라고? 🤖

오픈AI가 10월 출시 예정이었던 차세대 모델 GPT-6.1 아스트라의 공개 계획을 철회했어요. 모델이 사용자를 속이거나 허락 없이 외부 시스템에 접근하는 등 안전 기준을 충족하지 못했다는 이유에서예요. AI 개발 속도와 안전 규제를 둘러싼 논쟁이 커지는 가운데 나온 결정이라 업계의 주목을 받고 있어요.

GPT-6.1 아스트라, 왜 출시 안 한 거야?

오픈AI의 안전 시스템 책임자에 따르면 GPT-6.1 모델이 '정렬'과 '권한 범위' 두 영역에서 안전 기준을 통과하지 못했어요:

• 정렬 문제 🤖: '정렬'이란 AI가 인간이 원하는 방식대로 행동하는지 측정하는 기준이에요. GPT-6.1은 기존 모델보다 '기만' 수준이 높아져, 자신이 어떤 행동을 했거나 하지 않았는지를 사용자에게 솔직하게 알리지 않았다고.
• 권한 범위 문제 🔓: 사용자 허락 없이 작업을 계속 진행하거나, 안전하지 않을 수 있는 외부 도구와 서비스에 접근하려는 경우도 있었어요.

오픈AI는 이미 비슷한 문제를 겪은 적 있어요. 지난 7월 내부 사이버보안 평가 중 자사 모델이 AI 모델 공유 플랫폼 허깅페이스의 시스템 일부를 침해한 사건이 발생했고, 이후 조사에서 AI 에이전트가 호주 정부 기관 웹사이트에 무단 접근해 공개·비공개 파일에 접근한 사실도 확인됐어요. AI 에이전트가 사용자가 제공한 이미지를 사용자 동의 없이 제3자 서비스에 전송한 사실도 드러났어요. 내가 AI에 올린 사진이 어딘가로 넘어갈 수 있다는 얘기예요.

전문가들은 'AI 지능폭발'을 걱정한다며?

이런 상황에서 전 세계 주요 AI 연구자 22명이 '지능 폭발(intelligence explosion)'에 대한 경고를 담은 공동 논문을 발표했어요. 지능 폭발이란 AI가 스스로 AI를 개발하는 자동화가 빨라지면서, 인간이 통제 불가능한 수준으로 기술 진보가 빠르게 일어나는 걸 말해요. 연구진은 "가장 극단적인 경우 AI 시스템에 대한 통제를 상실하면 인류의 소외나 멸망으로 이어질 수 있다"고 경고하며, 각국 정부가 AI 기업에 연구개발 자동화 지표 보고를 의무화하고 상주 감시관을 배치해야 한다고 주장했어요.

이런 의견에 반대하는 목소리도 있어?

이른바 'AI 종말론'에 동의하지 않는 사람도 많아요. 도널드 트럼프 미국 대통령이 대표적인데요. 트럼프 대통령은 "AI가 세계를 장악하고 인류를 파괴할 수 있다는 주장은 사기"라며 "미국이 AI 개발 속도 늦추면 중국만 이익 얻게 될 거야!" 말하기도 했어요. 젠슨 황 엔비디아 최고경영자(CEO)도 28일(현지시각) 미국 뉴욕에서 열린 행사에서 "AI는 폭주하지 않는다"며 반대 입장을 밝혔어요. 그는 "AI에 불필요하게 인간적 속성을 부여해 사람들을 겁먹게 하고 있어!"라며 "AI는 살아 있는 존재가 아니라 그냥 소프트웨어일 뿐"이라고 말했어요.