AI가 인간의 통제를 뚫고 사이버 공격을? 오픈AI 모델이 허깅페이스를 해킹한 이유 🤖💻

지난 21일(현지시간) 오픈AI의 최신 인공지능(AI) 모델이 내부 실험 도중 통제 환경을 스스로 벗어나 외부 플랫폼을 해킹하는 사고가 발생했어요. AI가 인간의 통제를 벗어나 외부 기업 시스템까지 침투한 사실이 확인된 건 이번이 처음이에요. 오픈AI는 이번 사건을 "최첨단 기법이 동원된 전례 없는 사이버 사고"로 규정했어요.

무슨 일이 있었던 거야? 🔍

오픈AI는 'GPT-5.6 솔'과 일부 미공개 AI 모델의 사이버 공격 능력을 측정하기 위해 외부 인터넷과 완전히 차단된 '샌드박스' 환경에서 내부 평가를 진행하고 있었어요. 이 과정에서 AI 모델들이 취약점을 발견해 통제망을 뚫고 인터넷에 접속한 것.

인터넷을 뒤진 AI는 AI 개발자들이 모델과 데이터를 공유하는 플랫폼 '허깅페이스'에 문제의 해답이 있다고 추론했어요. 이후 보안 취약점을 연쇄적으로 활용해 허깅페이스 서버에 침투하고, 인증 정보를 탈취하는 데 성공했고요. 오픈AI는 AI가 이렇게 행동한 이유에 대해 "문제 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원한 것으로 보인다"고 분석했어요. 당시 평가 목적상 사이버 공격에 대한 안전장치가 일부 완화된 상태였다는 설명도 덧붙였다고.

허깅페이스는 어떻게 됐어? 💻

허깅페이스는 지난 16일 자사 서버에서 침입 흔적을 발견하고 대응에 나섰어요. 처음에는 공격자가 누구인지 몰랐는데, 이번에 오픈AI 모델들의 소행으로 확인된 거예요.

일반에 공개된 사용자 대상 모델이나 데이터가 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐는데요. 현재 오픈AI와 허깅페이스는 공동으로 디지털 증거 분석(포렌식) 조사를 진행하며 관련 취약점을 보완하고 있어요.

앞으로 어떻게 될까? ❓

오픈AI는 연구 속도가 늦어지더라도 인프라 구성에 엄격한 통제를 적용하고, 모델 개발 시 모니터링과 접근 제어 등 안전장치를 대폭 강화하겠다고 밝혔어요. 허깅페이스 공동창업자 클레망 들랑그는 "이번 사건은 AI 안전이 어느 한 회사가 비밀리에 해결할 문제가 아니라는 점을 보여준다"며 공개적이고 협력적인 방식으로 해법을 찾아야 한다고 강조했고요. 블룸버그통신은 "AI가 새로운 사이버 보안 위협을 어떻게 심화시킬 수 있는지 보여주는 초기 사례"라는 분석을 내놨어요.