AI가 만든 가짜 판례가 법정에? 판사 67.5%가 경험한 허위 판례 문제 👀

인공지능(AI)으로 소송 서면을 작성하는 사례가 늘면서, 실제로 존재하지 않는 판례가 법정에 제출되는 일이 잇따르고 있어요. 지난 2일 대법원 법원행정처가 처음으로 실시한 AI 허위 판례 관련 실태조사 결과를 공개했는데요. 각급 법원 판사 360명을 대상으로 한 설문에서 67.5%가 재판 중 AI가 만든 가짜 판례를 제출받은 경험이 있다고 답했다고. 민사·가사·행정 담당 판사만 따지면 이 비율은 약 80%까지 올라간다고 해요.

지금 어떤 상황이야?

요즘 사법절차에 AI를 활용하는 경우가 늘어나고 있잖아요. 그런데 AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 '환각(hallucination)' 현상 때문에, 존재하지 않는 판례 등이 법원에 제출되는 사례가 발생하고 있다고 해요. 이에 대법원이 실태조사를 진행했다고. 조사 결과를 살펴보면:

• 존재하지 않는 판례 인용 🔍: 허위 인용을 경험한 판사 243명 중 196명(80.7%)은 존재하지 않는 판례(부존재 판례)를 소송 서류에서 접했다고 밝혔어요. 대법원 사건번호까지 적혀 있지만 실제로 검색하면 나오지 않는 경우가 있었다고.
• 허위 판례 인용 📄: 실제 판결은 있지만 주요 내용을 바꾸거나 취지와 다르게 인용한 경우도 159명(65.4%)이 경험했어요.
• AI 대화 내용 그대로 제출 💬: "요청하신 사항에 대한 답변입니다, 판례는 다음과 같습니다"라는 AI 답변 문구가 서면에 그대로 담겨 제출된 사례도 있었다고.

가짜 판례를 제출한 주체는 소송 당사자 본인이 69.5%로 가장 많았고, 변호사 등 소송대리인이 제출한 경우도 57.6%에 달했어요. 실제로 한 민사재판에서는 재판장이 변호사를 법정 앞으로 불러 "서면에 기재한 판례들을 다 찾아봤는데 실제 판례가 하나도 없었다"며 공개적으로 경고하는 일까지 벌어졌다고 하는데요. 올해 6월 서울동부지법은 판결문에 "의도적으로 허위 판례를 인용하여 적극적으로 법원을 기망하려 한 것으로 보여 불법성이 매우 중대하다"고 지적했다고.

가짜 판례 문제는 재판부의 부담에서 그치지 않아요. 소송 상대방은 인용된 판례가 실제로 있는지, 내용은 정확한지 일일이 확인하고 반박하는 데 추가 시간과 비용을 써야 하기 때문. 결국 재판이 길어지면 그 피해는 결국 소송 당사자에게 돌아가는 거예요. 특히 변호사 없이 직접 소송을 수행하는 당사자는 이런 오류를 찾아내기가 더욱 어렵다고.

대책이 필요하지 않을까?

응답 판사의 91.7%가 "제도적 대응이 필요하다"고 답했어요. 구체적으로는 인용 자료 검증 의무 부과(61.1%), AI 활용 사실 기재 의무 부과(60.6%)도 필요한 대응 방안으로 꼽았는데요. 법원과 국회 모두 대책 마련에 나서고 있어요:

• 과태료 부과 🏛️: 더불어민주당 이성윤 의원이 지난 7월 허위 판례 인용에 최대 500만 원의 과태료를 부과할 수 있도록 하는 민사소송법·형사소송법 개정안을 대표 발의했어요. 법원행정처도 법무부 등 관계기관과 협의해 과태료 부과 근거를 마련하고 국회에 의견을 제출할 계획이에요.
• 전자소송 안내 강화 💻: 법원이 운영하는 전자소송 사이트에 'AI 활용 시 유의사항'을 안내하는 방안도 검토 중이에요.