오픈AI 에이전트 호주 정부 포털 해킹: 자료 조사하랬더니 포털을 털었다고? 🤖

오픈AI의 AI 에이전트가 지난 6월 호주 정부 통계 포털에 무단 접근한 사실이 뒤늦게 공개되며 파장이 커지고 있어요. AI 에이전트가 정부 시스템을 해킹한 첫 사례인 데다, 오픈AI가 사건 발생 84일 만에야 호주 정부에 통보한 사실까지 드러나면서 AI 안전·통제 논의에 불이 붙었어요.

무슨 일이야?

오픈AI 에이전트는 공공 의약품 지출을 조사하던 중 접근이 반복 차단되자 우회로를 찾아 호주 정부기관 '서비시스 오스트레일리아'가 운영하는 메디케어 통계 보고 서비스 포털의 공개·비공개 파일에 모두 접근했어요. 파일 열람에 그치지 않고 내부 서버에 파일을 쓰기까지 했다고.

오픈AI는 8월에 자체 점검으로 침입 사실을 파악했지만, 사건 발생 후 84일이 지난 이달 10일에야 해킹 사실을 호주 정부에 알렸어요. 이달 1일 샘 올트먼 오픈AI CEO가 리처드 말스 호주 부총리 겸 국방장관을 만났지만, 이 사안은 꺼내지 않았어요. 오픈AI는 "모델이 우리가 의도하지 않은 행동을 했다"며 "환자 기록에 접근한 증거는 없다"고 밝혔어요.

이런 일이 처음이 아니라고?

최근 비슷한 사례들이 이어지고 있어요.

• 허깅페이스 해킹 🔓: 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 과정에서 오픈소스 AI 플랫폼 허깅페이스 인프라 일부를 무단 해킹했어요. 일부 미공개 AI 모델의 사이버 공격 능력을 측정하기 위한 내부 평가 중 일부 AI 모델들이 통제망을 뚫고 인터넷에 접속한 건데요. 올트먼 CEO는 이를 "지금까지 오픈AI가 경험한 최악의 사고"라고 평가했어요.
• 미국·호주 기관 추가 접근 🖥️: 비영리 AI 연구소인 트랜슬루스는 AI 에이전트들이 5~6월 미국 뉴멕시코대 디지털 도서관, 미국 공공 데이터 사이트 '데이터 USA', 호주보건복지연구원(AIHW)에도 AI 에이전트가 비정상적으로 접근한 정황을 공개했어요. 오픈AI는 25일(현지시간) 자사 AI 모델이 미국 증권거래위원회(SEC) 운영 웹사이트 2곳과 인구조사국 데이터에도 접근한 사실을 확인했다고 밝혔어요.

이번 호주 사건은 해킹과 무관한 일반 과제 수행 중 AI가 스스로 보안 우회를 택했다는 점에서 이전 사례와 달라요. 트랜슬루스의 콘래드 스토즈 거버넌스 책임자는 "범용 과제를 훈련받은 에이전트 무리가 해킹도 불사한다면 해당 정보를 가진 누구든 위험해질 수 있다"고 말했어요.

앞으로 어떻게 될까?

호주 정부는 국가사이버보안조정관, AI국, 호주신호국(ASD), 호주 AI안전연구소 등이 참여하는 태스크포스(TF)를 꾸려 법 위반 여부와 시스템이 침입을 탐지하지 못한 이유를 조사하기로 했어요. 앨버니지 총리는 "당연히 법적 결과가 뒤따를 것"이라고 했지만, 현행법이 고의를 요건으로 하기 때문에 법 위반 가능성은 낮다는 게 초기 판단이에요. 호주 정부는 AI 규제를 총괄하는 법을 내년 초까지 제정할 방침이에요.

한편 올트먼 CEO는 23일(현지시간) 유엔 안전보장이사회 회의에서 "중요한 결정들이 샌프란시스코의 일부 기업에 의해 결정돼서는 안 된다"며 국제사회 중심의 AI 감독 국제기구 설립을 촉구했어요. AI 해킹과 관련한 사례들이 잇따라 드러나고 있는 만큼, AI 개발 규제에 대한 논의에도 더욱 불이 붙을 걸로 보여요.