X(엑스) ‘그록’ 딥페이크 성착취물 생성 논란 😤

소셜미디어 X(엑스, 구 트위터)에서 제공되는 AI 챗봇 서비스 ‘그록’이 딥페이크* 성착취물을 다량 생성해 거센 비판을 받고 있어요. 국내 X 이용자들 사이에서도 피해를 입었다는 말이 나오고 있다고. 논란이 커지자 세계 각국에에서는 X 접속을 차단하거나 그록을 대상으로 한 수사에 나서고 있어요. 

그록 딥페이크 성착취물 생성 논란 배경: 아동 성착취물까지 생성했다고? 🤬 

그록은 소셜미디어 X에서 제공되는 생성형 AI 서비스인데요. 전부터 성적 콘텐츠를 만들어 이용자를 늘리고 있다는 비판을 받아왔어요. 오픈 AI의 챗GPT와 구글의 제미나이 등 다른 AI들이 성적인 콘텐츠를 생성하지 않는 것과 달리, 그록은 ‘표현의 자유’를 이유로 이를 막지 않고 있다고. 특히 지난달 말 그록에 ‘이미지 편집’ 기능이 추가되면서 딥페이크 성착취물을 더욱 손쉽게 만들 수 있다는 지적도 쏟아졌는데요. 심지어 아동 성착취물까지 생성했던 걸로 확인되면서 국제적으로 논란이 커지고 있어요. 실제로 유럽의 비영리 단체가 그록이 생성한 20만 개 이미지를 무작위로 분석했더니 이중 53%는 속옷·수영복을 입고 있었고, 전체의 81%가 여성·2%가 미성년자로 보이는 인물이었다고. 

그록 딥페이크 성착취물 생성 논란 반응: 전세계에서 “그록 퇴출” 말 나오는 이유 🙅

세계 각국에서는 그록에 대한 비판이 들끓고 있어요. 인도네시아·말레이시아는 가장 먼저 접속 차단 조치를 내렸는데요. 미국 민주당의 몇몇 의원들도 애플과 구글에 “앱스토어에서 X와 그록 앱 퇴출해!” 요구했어요. 프랑스에서는 그록이 아동 포르노를 생성해 유포한다는 혐의로 고발돼 검찰 수사가 진행되고 있어요. 영국에서도 그록이 불법으로 성적 이미지를 생성했는지 공식 조사하기로 했다고. 우리나라도 대응이 필요하다는 목소리가 나오고요. 그록이 전 세계적으로 퇴출 압박을 받고 있는 가운데, 일론 머스크는 이를 검열로 규정하며 반발했는데요. 다만 X 측은 불법 콘텐츠를 만든 계정은 영구 정지하고, 필요하면 사법 당국과 협력하겠다는 입장을 밝히기도 했어요.