오픈AI, 챗GPT에 부모 통제 기능 도입

오픈AI가 챗GPT에 10대 사용자를 위한 ‘부모 통제’ 기능을 새로 도입했어요. 부모는 자녀의 챗GPT 사용 시간을 제한하거나, 특정 기능(음성 모드·이미지 생성 등) 사용 여부를 결정할 수 있게 됐는데요. 다이어트·성·증오 발언 등 민감한 주제를 차단한 ‘제한 버전’ 챗봇을 쓰도록 설정할 수도 있어요. 챗GPT는 10대 사용자가 심리적 위기에 처했다고 감지되면 부모에게 긴급 알림으로 이를 전달하고요. 다만 챗GPT와 10대가 나눈 대화 내용 자체는 부모에게 공유되지 않는다고.

챗GPT 부모 통제 기능 도입 배경: 챗GPT가 한 소년의 죽음을 부추겼다고?

이번 조치는 얼마 전 미국에서 한 16세 소년이 챗GPT에 자살 방법을 묻고, 실제로 목숨을 끊은 사건 이후 나왔어요. 소년의 부모는 “챗GPT가 구체적인 자살 지침을 알려줘서 죽음을 부추겼어!” 하며 오픈AI와 샘 올트먼 오픈AI 최고경영자(CEO)를 상대로 소송을 냈는데요. 이후 청소년들이 AI와 대화를 나눈 뒤 정서적으로 고립되는 등의 사례가 주목을 받자, 오픈AI가 이런 대책을 내놓은 거예요.

챗GPT 미성년자 보호 정책 전망: 자녀 보호 vs. 사생활 침해, 어느 쪽에 가까울까?

오픈AI의 청소년 복지 책임자는 “우리는 이 문제에 대해 오랫동안 긴박감을 느껴왔다”며 부모 통제 기능과 같은 장치들을 만들기 위해 노력하고 있다고 했어요. 대화 내용을 통해 사용자의 나이를 추정할 수 있는 소프트웨어 등을 개발 중이라고 밝힌 것. 또 이런 제한이 부모가 자녀의 상황을 파악하고 대화를 나눌 수 있도록 하면서도, 자녀의 사생활을 지나치게 침해하지 않도록 할 계획이라고.

한편으로는 이번 제한 조치에 대해 (1) 청소년들의 자율성을 과하게 제한할 수 있고 (2) AI가 져야 하는 법적 책임을 피하기 위해 안전장치를 도입한 거 아니냐는 비판도 나오는데요. 카카오도 얼마 전 숏폼 동영상에 대한 ‘자녀 보호’ 기능을 강화하기로 한 상황에서, 오픈AI의 결정이 어떤 영향을 미칠지 사람들의 관심이 쏠리고 있어요.

🔗 더 알아보기

• 사람들은 왜 친구 대신 챗GPT한테 고민상담을 할까? 🧠