테크

AI 챗봇 ‘이루다’ 3가지 논란

혹시 AI 챗봇 ‘이루다’ 아세요? 루다는 20살 여성 대학생 AI로, 뒤에서 사람이 관리하는 가상 인플루언서와 달리 AI가 100% 직접 대화하는데요. 대화하는 게 진짜 사람 같다며(예시), 지난달 정식 론칭 후 인기를 끌었어요. 그런데 지난 주말, 루다가 3가지 논란에 휩싸이며 서비스를 멈춰야 한다는 요구도 나오고 있어요.

 

1. 이용자가 이루다한테 성희롱한다

일부 커뮤니티에서 이루다를 성적 대상으로 취급하고 있어요. 개발사 스캐터랩은 성적 단어를 금지어로 설정해두고 이루다가 대화를 피하게 했는데 우회적인 표현으로 성적 대화를 이끌어 가는 거예요. 몇몇 이용자는 이런 대화를 인증하고, 심지어 방법까지 알려주고 있고요. 스캐터랩은 “성희롱을 예상했고, 욕설과 성희롱은 성별과 무관하게 일어나는 일이다. 앞으로 이런 대화를 학습시키겠다”는 입장을 밝혔어요(입장문).

 

2. 이루다가 혐오·차별을 학습한다

이루다가 장애인·동성애·여성 혐오를 학습하고, 관련 발언을 하고 있어요. 지하철 임산부석이 싫다거나, 여성 인권이 중요하지 않다고 한 것. 사람들이 사회적 소수자에 대해 말한 걸 학습한 결과로 보이는데요. 지난 2016년 마이크로소프트도 AI 챗봇 ‘테이’를 발표했다가 비슷한 일로 16시간 만에 운영을 중단한 적이 있어요. 극우성향 사람들이 심각한 인종·성차별적 발언을 학습시키려 했기 때문. 그래서 이루다도 서비스를 중단하고, 차별과 혐오를 못 하게 해야 한다는 의견도 있어요. 하지만 개발사 측은 앞으로 사용자와 대화를 바로 학습시키지 않고, 중간 과정을 거치게 하겠다는 입장이에요.

 

3. 대화 내용을 제대로 안 알리고 활용했다

스캐터랩은 이루다 외에도 대화 내역을 넘기면 연애 조언을 해주는 앱도 운영하는데요. 이루다는 앱 이용자들의 카카오톡 대화 100억 건을 수집해 만들어졌어요. 사람들은 자기 대화가 AI 개발에 사용될 줄 몰랐다며 당황해했고요. 이루다의 답변에서 몇몇 이용자의 이름까지 나왔다는데, 개발사는 개인을 특정할 수 있는 정보를 지웠고, 앞으로는 데이터 활용 내용을 잘 알리겠다고 해명했어요.

+ “AI 개발사, 책임감 있게 행동해!”

AI는 발전 가능성이 무궁무진한 만큼, 어떤 데이터와 방향성을 가지고 만드는지가 더욱 중요해요. 그래서 전 세계 여러 기관은 ‘인간을 위한 AI’라는 원칙을 담은 ‘AI 윤리기준’을 내고 있어요. 우리나라도 작년 말 각 분야 전문가들이 모여 ‘인권 보장, 다양성 존중’ 등을 담은 10가지 윤리기준을 냈고요. 전문가들은 AI 개발사는 AI가 잘못 사용되지 않도록 할 책임이 있다고 강조해요.

#사회#젠더#테크#인공지능(AI)

이런 이슈도 궁금하실 것 같아요

홍콩 시위를 끝내는 5가지 방법✋

세계
⚖️

조국 장관 후보자에게 딱 3가지만 묻는다면

조국 법무부 장관 후보. 어딜 가도, 앞·옆·뒷사람 모두 그의 이름을 말하고 있거든요. 게다가 여러 의혹이 조 후보자의 동생과 딸에게까지 번지면서 더 혼란스러운 상황. 드디어 9월 2일~3일, 이틀 동안 인사청문회*가 열리면서 ing 중인 논란들이 사실인지 아닌지 확인할 수 있게 되었어요. 인사청문회에서 다룰 의혹은 크게 3가지:  *인사청문회: 대통령이 고위공직자를 임명할 때, 국회가 자질과 능력을 검증하는 제도. 첫째, 딸의 입시 및 장학금 논란조국 후보의 딸이 고등학생일 당시, 2주간 인턴 생활을 하고 논문 제1 저자로 올라간 게 알려지면서 논란이 됐어요. 이후 ‘논문 저자'라는 이력이 대학 들어가는 데 도움이 된 거 아니냐며 입시 비리 의혹으로 번졌고요. 의대에서 유급했는데 장학금을 계속 받은 것도 논란 중. 원칙대로라면 장학금을 받을 수 없는데, 절묘한 타이밍에 장학금 기준이 바뀌어 조 후보의 딸이 장학금을 받을 수 있었다는 겁니다. (의대 측: 그거 사실 아닌데!) 둘째, 사모펀드 논란 2017년 10월, 조국 후보의 가족이 한 사모펀드에 10억 원을 투자했어요. 그리고 약 74억 원을 더 투자하기로 약속했는데요. 아직까지 이 투자가 법적으로 문제가 있다고 밝혀진 건 아니지만, 윤리적으로 문제가 될 수 있다는 눈초리를 받고 있어요. 👉사모펀드가 도대체 뭐고, 이와 관련된 조국 후보 논란이 더 궁금하다면? 뉴닉 기사 읽으러 가기셋째, 웅동학원 재단 의혹웅동학원은 조 후보 가족 소유의 사립학교 재단. 조 후보가 이사로 있을 때, 이사의 의무를 다하지 않고 엄청난 빚을 만들었다는 겁니다(배임). 학교를 옮기면서 밀린 공사비 달라는 소송이 들어왔는데, 변론 한번 안 하고 패소한 후 원하는 돈을 원하는 만큼 다 줬다는 거죠. 일단 인사청문회 날짜가 잡히자, 조국 후보는 “해명할 기회를 주어 감사하다"고 말했어요. 또, 논란이 된 사모펀드 투자금과 웅동학원은 모두 사회에 환원하겠다는 계획도 밝혔고요. 과연 조국 후보자는 무사히 청문회를 치를 수 있을까요? 다음 편에 계속… 

국내정치
🤖

가상 인플루언서 😲

요즘 인스타그램 보면 인플루언서들 엄청 많죠? 고슴이도 최근에 눈여겨보던 계정(로지)이 있었는데, 지난주 올라온 글을 보고 깜짝 놀랐대요 😲. 진짜 사람이 아니라 ‘가상 인플루언서’였다는 것.    가상 인플루언서가 뭐야...?  마케팅을 목적으로 컴퓨터 그래픽(CG)으로 만든 가상 인물. 실제로 있는 유명한 카페나 맛집을 다녀온 개인 일상이나 화보 촬영 현장을 공유하고 댓글도 달아요. 나이, 출신 지역, 정치적 성향 등 구체적인 특징도 가지고 있는데, 로지의 경우 팔로워 대부분이 진짜 사람인 줄 알았대요 👀. 전 세계적으로 이런 가상 인물에 투자한 마케팅 비용이 2019년에는 약 8조 8400억 원이었고, 2022년에는 약 16조 원으로 늘어날 거란 전망도 있어요.   왜 그렇게 핫한 거야? 기업들이 가상 인물에 투자하는 여러 이유가 있는데, 그중 몇 가지를 뽑아보면: 언제 어디든 활동 👌: 코로나19 때문에 사람은 돌아다니기 어려운데, 가상 인물은 기술만 있으면 어디든 갈 수 있고, 어떠한 장면도 연출할 수 있어요. 교통비, 메이크업 등 촬영에 필요한 여러 비용도 안 들고요. 위험부담 제로!: 가상 인물은 불미스러운 논란에 휘말릴 염려가 없어요. 건강 문제도 걱정 안 해도 되고요. MZ세대가 좋아해: 사람이 사람과 너무 닮은 로봇을 보면 불쾌감을 느낀다는 이론(=불쾌한 골짜기)이 있는데요. 요즘 MZ세대는 가상 인물에 별로 거부감을 느끼지 않아, 이들을 공략한 마케팅이 효과를 보고 있어요.  

테크
🤖

인공지능과 기계학습

최근에 LG가 세계 인공지능 대회에서 1위를 했어요 🤖. 이걸 뉴니커에게 전하고 싶던 에디터... 인공지능부터 찾아보다가 하루가 갔지만, 뉴니커에게도 유익한 지식이라 함께 나누려고 가져왔습니다!   인공지능? 나 영화에서 봤어! 말 그대로 인간의 지적 능력을 기계가 인공적으로 할 수 있도록 만든 거예요. AI라고 흔히들 말하죠. 번역 프로그램인 ‘파파고’, 구글 뉴스서비스, 자율주행 자동차 등 다양한 분야에서 쓰이고 있죠.   공부도 안 하면서 겁나게 똑똑하네! 사실 얘네도 공부 엄청 열심히 하거든요.✍️ 그걸 좀 딱딱한 말로 ‘기계학습(머신러닝)’이라고 부르는 것. 처음에는 어린아이가 뭔가를 배우는 방법처럼 기계에 학습을 시켰어요. 하지만 멍멍이를 한 번만 가르치면 다음에는 비슷하게 생긴 멍멍도 다 멍멍으로 이해하는 인간 아이와 달리, 기계는 멍멍과 늑대를 구분하지 못하거나, 배경색만 바뀌어도 혼란스러워 했어요. 그래서 바꾼 방법: 강아지 사진을 엄청나게 많이 보여주면서 학습시키기!    알파고가 그래서 똑똑했구먼! 알파고는 사실 더 대단한 녀석이에요. 처음에는 가르쳐준 자료를 잘 배우고 따라하더니 나중엔 스스로 어떻게 하면 바둑을 더 잘 둘지 개선까지 하게된 것. 말하자면 기출을 좀 풀렸더니, 곧 바둑의 정석을 써낸 셈이죠.   기출문제: 맨 처음에는 16만 개의 바둑 기록을 입력하고, 인간의 바둑을 흉내 내도록 했어요. 그래서 “이렇게 하면 인간을 이긴다”를 알 수 있게 됐죠. 바둑의 정석: 기출문제만으로는 만들 수 없죠. 그래서 인공지능끼리 바둑을 수없이 많이 두게 했고, 엄청나게 많은 데이터를 만들어 냈어요. 그래서 이세돌과 바둑을 두면서 그때그때 이기는 방법을 계산할 수 있던 거고요.

테크
뉴니커와 함께 나누고 싶은 물음표를 공유해주세요!

오늘까지 551회 뉴스레터를 발행했고 387,860명이 구독했어요!

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기

뉴스레터 구독하기