댓글 말투만 봐도 AI인지 아닌지 안다고?

• 한국과학기술원(KAIST)과 국가보안기술연구소가 인공지능(AI)이 작성한 한글 댓글을 판별하는 기술 ‘XDAC’을 세계 최초로 개발했어요.
• 연구팀에 따르면 AI가 쓴 댓글에선 “~것 같다”·“~에 대해” 처럼 형식적 표현과 정형화된 이모지, 접속어를 많이 쓰는 등 특유의 말투가 발견됐어요.
• XDAC 기술이 이런 말투 차이를 분석해 댓글 작성 주체를 98.5% 정확도로 식별해내면서 댓글을 통한 여론 조작 대응에도 쓰일 수 있다는 기대가 나와요.

뉴스 기사에 나타난 수십만 개 악플의 정체는... AI?

최근 생성형 AI가 기사 맥락에 맞춰 감정과 논조까지 조절할 수 있게 되면서, 수십만 개의 댓글을 빠르게 만들어 여론을 조작할 수 있다는 우려가 커졌어요. 특히 한국어 댓글은 짧고 형태가 정해지지 않은 표현이 많아 기존 영어 중심의 AI 탐지 기술로는 식별이 어려웠는데요. 이에 연구진은 직접 AI 댓글 생성기를 만들고, 실제 뉴스 댓글 데이터를 학습시켜 AI 특유의 말투와 형식을 정밀 분석했어요.

“여론 조작 대응에 활용할 수 있을 것”

XDAC 기술이 밝혀낸 AI 댓글의 특징은 아래와 같아요.

• 사람이 쓴 댓글은 줄바꿈, 띄어쓰기, “ㅋㅋㅋ” 같은 반복 문자나 한국 특유의 이모지를 자주 쓰는 반면, AI는 세계 공통 이모지나 “~것 같다”, “~에 대해” 같은 형식적 표현을 자주 쓴다고.
• 줄바꿈, 여러 칸 띄어쓰기 등 서식 문자 사용률에서도 큰 차이가 있었는데요. 사람이 작성한 댓글의 26%가 서식 문자를 포함했지만, AI 댓글은 1%에 불과했어요. 
• 또한 사람 댓글은 자신의 생각이나 감정을 직접 표현하는 말투가 자주 나타난 반면, AI 댓글은 문장 간 자연스러운 흐름을 위한 접속어와 AI 고유의 말투 비중이 높은 것으로 드러났어요.

연구팀은 XDAC 기술이 이런 차이를 학습해 댓글 작성의 주체를 98.5% 정확도로 판별할 수 있고, 어떤 AI 모델이 썼는지도 식별할 수 있다고 밝혔어요. 무엇보다 이 기술은 작성자 단순 판별을 넘어 ‘여론 조작 억제’ 효과도 기대된다고. 음주 단속이나 CCTV처럼, 누군가 지켜보고 있다는 사실만으로도 AI 댓글을 통한 조작 시도를 줄일 수 있다는 것. 

다만 연구진은 “이번 연구가 AI 여론조작 대응의 기술적 기반을 마련했지만, 내용만 탐지하는 것으로는 한계가 있다”며 플랫폼 협력을 통해 댓글 작성 시간, 계정 정보, IP 주소 등 추가 데이터를 활용하면 탐지 성능을 더 높일 수 있다고 설명했어요.