뉴니커, 요즘 출판계에서 한창 논란이 되고 있는 ‘딸깍 출판’에 대해 들어본 적 있나요? 인공지능(AI)을 통해 하루에도 몇 권씩 책을 출판하는 출판사들이 문제가 되면서, 이를 비판하는 목소리도 커지고 있는데요. 심지어 한쪽에서는 “AI 출판을 금지해야 해!” 하는 말까지 나온다고. 

오늘 비욘드 트렌드는 최근 커지고 있는 ‘AI 출판’에 대한 이야기를 다뤄볼게요.

‘딸깍 출판’, 하루에도 몇십 권씩 책이 쏟아져 나온다고? 📚🤖

‘딸깍 출판’이란 일부 AI를 이용한 출판을 가리키는 단어로, 마우스를 한 번 딸깍 하는 정도의 수고로 책을 몇십 권씩 만들어내는 일부 출판사들을 비판하기 위해 생긴 말인데요. 인간 저자가 아닌 AI가 쓴 글이 출판되는 걸 비판하는 흐름은 이전에도 있었지만, 올해 초 한 유명 SNS 계정에 이런 상황을 비판하는 영상이 올라오면서 논쟁이 본격적으로 시작됐어요. 인간 저자가 책을 쓰는 걸 보조하는 정도가 아닌, 처음부터 끝까지 AI가 써 내려간 책들이 버젓이 출판되고 있다는 사실이 알려지며 논란이 된 거예요.

문제가 된 한 출판사는 AI를 통해 지난해 9000여 권, 하루 평균 약 25권의 책을 찍어냈다는 사실이 알려지며 많은 사람들의 분노를 사기도 했어요: “이런 건 제대로 된 출판이라고 볼 수 없어 😡!” 이런 출판사들이 국립중앙도서관으로부터 적지 않은 규모의 납본 비용을 받아 챙기고 있다는 의문이 제기되며 논란은 더욱 커졌고요. 국립중앙도서관은 우리나라에서 출판된 출판물을 납본받고, 이에 대한 보상금을 지급하는 납본 제도를 운영하고 있는데요. 이 점을 악용해 낮은 품질의 AI 출판물을 대량으로 출간하고, 납본 보상금을 받아 챙기고 있다는 거예요. 

논란이 커지자 해당 출판사는 지난 2일 자사 홈페이지에 공식 입장문을 발표했어요. 입장문에서 출판사 측은 “단순히 책을 많이 출판하는 것 자체는 (우리의) 목표가 아니다”라며, 장기적으로 한국어에 특화된 AI 언어모델을 개발해 한국 AI 기술 발전에 기여하는 게 목표라고 밝혔는데요. 또 출판 과정에서 AI가 아닌 사람의 노동력이 전혀 들어가지 않는다는 주장에 반박하며, “초안 기획과 구성 설계, 내용 검토, 교정 등 모든 단계에서 인간의 작업이 상당 부분 투입된다”고 했어요. 납본비 논란에 대해서도 지금까지 납본을 통해 받은 보상금은 ‘0원’이라며, 대부분의 논란이 오해라는 입장을 밝혔고요. 국립중앙도서관 역시 해당 출판사의 책이 전부 납본을 거부당했다며, 납본 보상금을 지급한 적 없다고 전했다고.

하지만 이후에도 관련 논쟁은 사그라들지 않고 있어요. “인간이 아닌 AI가 쓴 책은 인정할 수 없어!” 하는 주장이 나오는 한편, “AI 출판은 이미 거스를 수 없는 시대 흐름이야!” 하는 말도 나오는데요. AI 출판에 대한 출판계 안팎의 다양한 입장들이 SNS 등에 올라오면서, ‘우리는 AI 출판을 어떻게 바라봐야 하는가’에 대한 고민도 커지고 있는 거예요.

AI 출판 뭐가 문제일까? AI 출판을 둘러싼 논쟁 정리 🗣️

AI를 활용한 출판은 몇 년 사이 빠르게 늘어나고 있어요. 최근 국내 주요 출판사들의 총매출액은 줄고 있는 반면, 출판사 수는 꾸준히 늘고 있다는 분석이 나오는데요. 정확한 통계는 없지만, 이 중 대부분이 1인 출판사라는 게 업계의 공통된 시각이라고. 실제로 출판사 수는 2022년 7만 5196개, 2023년 7만 9035개를 넘어 2024년에는 8만 1161개로 확 늘었는데요. AI를 활용하는 경우가 많아지면서 혼자 집필·편집·디자인까지 담당하는 1인 출판사의 수도 늘어나고 있다는 거예요. AI를 활용한 소규모 출판 강의 등에 대한 수요도 꾸준히 확인되고 있고요.

이에 아예 ‘AI 출판’을 전면에 내걸고 활동하는 출판사도 등장하기 시작했어요. 열린인공지능출판사는 2023년 챗GPT와 이미지 생성 모델 미드저니를 활용해 100명이 각자 한 권씩 책을 출간하는 프로젝트를 선보이기도 했는데요. 출판의 꿈을 갖고 있었지만 여러 이유로 책을 내지 못한 사람들을 위한 기획으로, 책 내용뿐 아니라 표지 또한 모두 AI가 만든 것으로 알려져 화제가 됐다고.

이런 상황에 대한 사람들의 반응은 엇갈려요. AI 출판이 보편화되는 것 자체를 막을 수는 없다는 입장과, AI 출판이 가져올 문제점에 집중하는 입장이 갈리는 건데요. 반대하는 입장에는 어떤 얘기가 있냐면: 

• 오류 너무 많고 ❌: 많은 사람들은 우선 AI 출판물의 질 자체가 너무 낮아 문제라고 지적해요. 학술적이거나 전문적인 내용을 다루는 책인데도 기초적인 사실 오류가 너무 많고, 번역 실수도 잦다는 것. 앞뒤 맥락에 어울리지 않는 단어가 갑자기 튀어나오는 경우도 적지 않고요. 
• 참고문헌도 불확실해 😵: 정보의 출처를 제대로 표기하지 않거나, 혹은 존재하지 않는 거짓 원전을 참고문헌으로 제시하는 경우도 많아 문제가 됐어요. 18세기의 철학자 칸트가 사용한 표현을 고대 그리스 철학자인 헤로도토스가 썼다고 주장하는 등의 사례도 발견됐다고.
• 번역도 제멋대로야 😣: 번역의 맥락에 맞지 않는 신조어가 갑자기 튀어나오는 등의 문제도 심각하다고 해요. 고전 번역서에 ‘스불재(스스로 불러온 재앙)’, ‘알빠노(내가 알 바냐)’ 등 신조어가 갑자기 등장하는 식인 것. 중간에 어투가 갑자기 바뀌는 문제도 많았다고.

이외에도 전문가들은 과도한 AI 출판으로 인해 출판 생태계 자체가 큰 피해를 입을 수 있다고 경고해요. 얼핏 보기에 목차도, 책 소개도 멀쩡하지만 내용이 제대로 검수되지 않은 AI 출판물이 늘어나면 책을 구입한 소비자들이 피해를 입게 될 수 있고, 책이라는 매체 자체에 대한 신뢰도도 떨어질 수 있다는 것. 이런 책들이 공공도서관에 비치될 경우 공공도서관 장서의 질도 떨어질 수 있고요. 학교·공공도서관의 경우 한정된 예산으로 책을 구입해야 하기 때문에, 이런 AI 도서의 비중이 늘어나면 다른 전문 학술서들의 영역이 더 줄어들 거라는 말도 나온다고.

한편에서는 “AI를 통한 출판 자체를 막을 수는 없어!” 하는 입장도 있어요. AI 기술은 계속 발전하고 있고, 이를 다양한 분야에서 활용하려는 흐름도 앞으로 점점 커질 거라는 거예요. 출판도 여기서 예외는 아니라는 것. 논란이 된 위의 출판사 역시 AI가 잘못된 정보를 제공하는 할루시네이션(환각) 현상을 해결하기 위해 꾸준히 시스템을 업데이트해왔고, 현재는 실제 인간 작가와 비슷한 정도로 개선됐다고 주장하기도 했어요. 또 다른 한편에는 AI 출판이 책 출간의 허들을 낮춰서, 더 많은 사람들이 책을 낼 수 있도록 도와준다는 말도 있다고. 

텍스트힙의 시대, 우리는 AI 출판을 어떻게 바라봐야 할까? 👀

이런 현상이 ‘텍스트힙’ 열풍과 함께 나타나고 있다는 점은 굉장히 흥미로워요. 텍스트와 책 자체에 대한 사람들의 관심이 커지고 있는 한편으로, 다른 쪽에서는 인간 저자가 아닌 AI를 통해 손쉽게 책을 만드는 사례도 많아지고 있는 거예요. 집필까지는 아니더라도 책의 기획, 편집 단계에서 AI를 활용하는 건 이미 출판계의 새로운 기준이 됐다는 말도 나오고요. ‘책’과 ‘출판’에 대한 사회적 인식 자체가 빠르게 변화하고 있는 것.

이런 상황에서 많은 전문가들은 “AI 출판물에 대한 확실한 관리 기준을 만들어야 해!” 지적해요. 아마존(Amazon)은 지난 2023년 상품 등록 시 이 콘텐츠가 AI로 만들어진 것인지 여부를 필수로 밝히도록 하고, 하루 등록 가능한 도서 수를 3권으로 제한했는데요. 이처럼 AI 출판물이 무더기로 등록되는 걸 막기 위해서는 제재가 필요하다는 말이 나와요. 국립중앙도서관 역시 국제표준도서번호(ISBN) 발급 건수가 평균보다 지나치게 많은 출판사의 경우 책 납본 시 철저히 관리하기로 하는 등, 앞으로 관련 규칙을 만들어나갈 예정이라고. 대학 도서관 등에 AI 출판물이 들어갈 수 없도록 AI 전자책을 거르는 큐레이팅 시스템을 도입해야 한다는 목소리도 있고요.

집필 과정에서 AI를 활용하는 것에 대한 가이드라인을 만들어야 한다는 목소리도 있어요. 점점 다양한 영역에서 AI를 활용하는 흐름 자체를 막을 수는 없겠지만, 적어도 책을 읽는 사람이 ‘이건 AI가 썼구나’ 확실히 알 수 있도록 해야 한다는 거예요. 최근 학계에서 AI를 활용해 자료 조사·편집·집필 보조를 받았을 경우 이를 확실히 밝히도록 하는 가이드라인이 만들어지고 있는 것처럼, 출판계 또한 이런 흐름에 동참해야 한다는 거예요. 

전문가들은 AI 출판이 단순한 기술 상의 변화가 아니라, 책이라는 매체에 대한 우리의 인식 자체를 바꾸고, 나아가 창작과 신뢰에 대한 기준에도 영향을 미치고 있다고 분석해요. 디자인, 음악 등 다른 여러 분야도 비슷한 문제를 겪고 있지만, 많은 사람들이 가장 전통적이고 신뢰할 수 있는 매체로 꼽는 출판 분야인 만큼 그 파장도 더 클 수밖에 없을 텐데요. 앞으로 책에 대한 우리의 인식은 어떻게 바뀌게 될까요? 그리고 거기에 AI는 어떤 역할을 하게 될까요? AI 출판에 대한 열린 질문을 던지면서, 오늘 비욘드 트렌드 마무리해 볼게요.

💌 매주 금요일 12시 ‘고슴이의 비트’ 레터 받아보기

👇 ‘고슴이의 비트’ 계정 팔로우하고 매일 새로운 콘텐츠 보기