애플 아동 성착취물 신고 시스템 논란
아이폰 쓰는 뉴니커, 혹시 사진 어디에 저장해요? 아무래도 기기 용량만으론 부족해서 보통은 애플 아이클라우드(iCloud)에다 사진을 백업하게 되잖아요. 사실상 애플의 거대한 창고에 수많은 사람들의 소중한 추억이 다 모여있는 셈이죠. 그렇다보니 개인정보 문제를 해결하는 게 애플의 중요한 일이기도 한데요. 지난 5일 애플이 발표한 아이클라우드 업데이트 계획을 두고 논란이 있어요.
아이클라우드? 무슨 일이야? ☁️
아이클라우드에 저장된 사진 중 아동성착취물(CSAM)로 의심되는 걸 자동으로 찾아내 신고하는 기능을 넣겠다고 했거든요 📱. 암호화 기술과 인공지능(AI)을 활용해 문제가 되는 사진을 1차로 가려낸 다음, 애플이 다시 한번 직접 확인해 아동성착취물로 확인되면 아동학대 전문 비영리 민간단체에 알려 경찰 등에 신고할 수 있게 하는 거예요. 이 기능은 올해 가을에 나올 애플 운영체제 업데이트에 포함되고, 일단 미국 사용자에게만 적용돼요. 단, 동영상에는 이 기능이 작동하지 않고, 사진에만 적용된다고. 아이클라우드를 쓰지 않으면 이 기능이 안 먹히고요.
헉... 그럼 애플이 개인 사진을 막 들여다보는 거야?
그런 건 아녜요. 애플은 개인 사생활을 보호하면서 아동성착취물도 찾아내는 두 마리 토끼를 잡기 위해 새로운 시스템을 만들었다고 말해요. 어떤 기준으로 시스템이 작동하는지 조금 더 자세히 살펴보자면:
아동성착취물 사진과 비슷한가? 🧐: 애플이 만든 소프트웨어는 사진을 분석한 다음 각각의 사진을 숫자로 바꾼 고유한 값(해시값)을 붙여요. (🦔: 이 숫자는 기계만 읽고 이해할 수 있슴!) 만약 거의 똑같은 사진이라면 이 값도 같아질 수 있는데요. 아동성착취물 사진의 특징이 담긴 해시값 데이터를 미리 잔뜩 모아놓고 이용자가 아이클라우드에 올리는 사진의 숫자와 맞춰보는 거예요.
어, 너무 비슷한데? 🤔: 이렇게 숫자를 맞춰보다가 딱 맞는(=아동성착취물과 비슷한) 사진이 나오면, 기기의 소프트웨어는 일단 보이지 않는 딱지를 사진에 붙여서 아이클라우드에 함께 올려둬요. “이 사진 의심스러워!” 이 딱지는 암호로 처리돼 누구도 읽을 수 없고요.
비슷한 사진이 너무 많다! 🚨: 그런데 이런 딱지가 붙은 사진이 너무 많아 애플이 정해둔 기준을 넘어서면, 그 때는 암호가 풀려 애플이 아이클라우드에 있는 이 사진들을 확인할 수 있다고. 사람이 눈으로 직접 사진을 확인해 아동성착취물이 맞는지 확인하는 거예요. 맞다면 이용자 계정을 정지시키고, 이 사진을 신고하는 것.
애플은 맨 마지막 단계 전까지의 과정을 사람이 아닌 소프트웨어가 처리하는 거라 프라이버시에 대한 걱정은 안 해도 된다고 설명해요. 아동성착취물 사진이 아닌 다른 사진을 애플이 들여다보는 일은 없다는 것.
흠... 다른 사람들은 뭐래?
의견이 엇갈려요.
난 찬성 🙋: “끔찍한 범죄 막으려면 필요해. 아동성착취물이 온라인에 퍼지는 걸 막을 수도 있고, 범인 잡는 것도 더 쉬워질 거야. 애플 말대로라면 프라이버시 문제도 없을 거 같은데? 그리고 애초에 나쁜 짓을 안 했으면 걱정할 일도 없잖아.”
좀 걱정되는데 😟: “프라이버시를 많이 신경썼다고 해도 결국 기업이 어떤 식으로든 이용자의 사진을 감시할 수 있다는 걸 보여준 거잖아? 만약 정부가 테러 같은 다른 범죄와 관련된 사진을 찾아내는 기술도 만들어달라고 하면 어떻게 할 건데? 이런 기술이 일단 만들어지면 언제든 문제가 될 수 있어.”
애플은 왜 이런 걸 발표한 거야?
그동안 FBI나 CIA 같은 미국 수사당국과의 갈등이 심했거든요. 범죄 증거를 찾겠다며 용의자가 가지고 있던 아이폰의 잠금을 풀어달라고 해도 애플이 “우리도 못 풀게 되어있다!“면서 거부하는 일도 있었고요. 2016년에 FBI와 크게 한번 부딪힌 뒤에는 오히려 아이폰 등의 보안을 강화해서 계속 긴장이 팽팽했어요. 애플 입장에서도 부담이 없지 않았는데요. 그간 수사당국이 애플에 협조를 요청하며 가장 많이 든 이유가 아동성착취물이나 테러 범죄였던데다, 아동성착취물의 경우 상황을 알았을 때 의무적으로 신고해야 하는 법도 있기 때문. 페이스북이나 트위터, 구글 등은 이미 비슷한 시스템으로 모니터링을 열심히 하는 분위기라 애플도 가만히 있을 수는 없었을 거라는 분석도 나와요.
