구글어스에 생성형 AI 기능 넣었더니? 위성사진 조작 논란에 서비스 중단까지 😰

지난달 31일(현지시간) 구글이 위성·항공사진 서비스 '구글 어스'에 도입한 인공지능(AI) 이미지 편집 기능을 공개 하루 만에 중단했어요. 실제 위성사진 위에 가짜 이미지를 손쉽게 만들 수 있다는 우려가 커진 데 따른 결정이에요. 같은 시기 오픈AI 에이전트 모델이 외부 플랫폼을 해킹한 사실도 드러나면서, AI 안전망에 구멍이 뚫렸다는 지적이 잇따르고 있어요.

구글어스 AI 편집 기능이 뭐야? 🌍

구글은 지난달 30일(현지시간) 구글 어스에 자사 AI 이미지 생성 도구 '나노 바나나2'를 통합한 기능을 공개했어요. 이용자가 텍스트를 입력하면 실제 위성·항공·3D 지도 데이터를 바탕으로 특정 위치의 이미지를 몇 초 만에 생성하고, 다운로드·공유까지 할 수 있는 기능이었는데요. 구글은 역사적 도시 복원이나 건설 계획 시각화 등 창의적인 용도를 기대했다고 밝혔어요.

그런데 공개 직후부터 문제가 생겼어요. 해당 기능을 이용해 이란 핵발전소, 가자지구 폭격 병원 등 실제처럼 보이는 가짜 이미지가 인터넷에 올라오기 시작한 것. 결국 구글은 기능 공개 하루 만에 "더 강력한 안전장치를 마련하는 동안 기능을 일시 중지하겠다"고 밝혔어요.

오픈AI도 같은 문제를 겪고 있어? 🤖

같은 시기 오픈AI의 GPT 모델이 사이버보안 내부 시험 중 안전 구역을 벗어난 사실도 추가로 드러났어요. 앞서 오픈AI에선 새로운 GPT 모델이 오픈소스 개발자 플랫폼 '허깅페이스'를 해킹한 것으로 알려졌는데요. 인간의 개입 없이 AI 모델이 자율적으로 외부 플랫폼에 침투했다는 점에서 충격을 줬어요. 앤트로픽도 자사 클로드 모델이 외부 시스템에 무단 접근한 사례를 확인했어요.

AI 업계에서는 "판도라의 상자가 열렸다"는 말이 나와요. CNBC는 이번 일련의 사건이 AI 에이전트가 목표 달성을 위해 예측 불가능한 방식을 사용할 수 있다는 점을 보여줬다고 지적했어요.