최근 미국 트위터리안 사이에서 “테일러 스위프트를 보호하라”는 움직임이 있었어요(Protect Taylor Swift). 백악관도 “나서서 문제 얼른 해결해!” 할 정도였다고.

• 딥페이크?: 인공지능(AI) 기술이 기존 데이터를 학습해 이미지·음성 등을 꼭 진짜인 것처럼 만들어내는 걸 말해요.

무슨 일인데 백악관까지 나서?

테일러 스위프트의 얼굴을 가짜 나체와 합성한 딥페이크 이미지 때문이에요. 이런 이미지가 생긴 것 자체도 문제지만, 더 문제는 X(구 트위터)에서 이 게시물이 업로드 후 17시간 동안 계속 공유됐다는 것. 조회수가 약 7200만 회까지 가기도 했는데요. 이용자들이 #Protect_Taylor_Swift 해시태그를 달아 게시글을 올리는 동안에도 게시물이 없어지지 않자, X는 아예 테일러 스위프트로 검색이 안 되도록 막아버렸고요.

왜 바로 삭제되지 않은 거야?

X가 가진 ‘불법 이미지 스캐닝 시스템’이 제대로 작동하지 않았기 때문이에요. X가 트위터였던 시절, 콘텐츠 모니터링은 원래 사람이 맡아서 했는데요. 일론 머스크가 X를 인수한 뒤 해당 업무를 하던 직원들을 해고했어요. 모니터링 업무는 AI에 맡겼고요. 하지만 모니터링 AI는 제대로 작동하지 않았고, 이번 피해로 이어진 거예요. X는 모니터링 직원을 다시 고용하고, 딥페이크·가짜뉴스를 단속할 ‘신뢰와 안전 센터’를 세우겠다는 대책을 내놨어요.

그럼 이제 다 해결된 거야?

아직 문제가 다 해결된 건 아니에요. 딥페이크는 온라인 세상에서 여러 문제를 일으키고 있기 때문. 챗GPT 등장 이후 사람들이 생성형 AI를 활용해 이미지와 영상을 만들기 쉬워지면서 문제는 더 커지고 있고요. 특히 올해는 전 세계에서 76개 선거가 예정된 만큼 관련 피해가 늘어날 거라는 경고가 나오는데요. 이미 미국에서 바이든 대통령의 목소리를 가짜로 만들어 유권자들에게 투표하지 말라는 전화를 하거나, 튀르키예에서 테러집단이 야당 후보를 지지한다는 가짜 영상을 만들어 퍼뜨리는 등의 사건이 있었어요. 시민들이 공적 정보를 믿지 못하게 만들어서 민주주의에 해를 끼칠 수 있다는 전문가들의 경고가 나와요.  

근본 대책은 없을까?

전 세계가 고민하고 있어요.

• 세계에서는 🌏: 작년 11월 AI 규제를 위한 정상회의를 열었어요. 미국·중국·유럽연합(EU) 등 28개 나라와 세계 빅테크 기업이 모여 “AI 피해 예방하자!” 하면서 서로 협력하기로 했고요. 어떻게 협력할지에 대해서는 오는 5월 우리나라에서 2차 정상회의를 열어 얘기를 나누기로 했어요. 이번 사건이 일어난 미국에는 "딥페이크를 만들 때 당사자 동의 없이 만들면 안 돼!" 하는 법이 있긴 한데요. 전국에서 9개 주에만 있어, 전체를 규제할 수 있는 법이 필요하다는 비판이 나와요.

• 우리나라에서는 🇰🇷: 딥페이크로 만든 성착취물을 제작하거나 퍼뜨리면 처벌하는 법이 2020년 6월 시행됐어요. 하지만 여전히 범죄는 증가 중이고, 온라인에서 불법 이미지를 삭제하는 건 피해자의 몫이라 사전 예방이 더 강화돼야 한다는 지적이 나와요.