한때 GPT에게 "조선시대 맥북던짐 사건"에 대해 물어보면 GPT는 이렇게 답변했다.

"세종대왕이 훈민정음 작성중 분노하여 맥북프로와 담당자를 던진 사건입니다."

이처럼 GPT는 얼토당토 되지 않는 거짓말을 말할 때가 있다.

이런 거짓말을 "할루시네이션이라고 한다

그렇다면 왜 GPT는 거짓말을 말하는걸까

GPT는 질문에 대해 "확률상" 정답에 가까운 답변을 주기 때문이다.

그렇기에 말이 안되는 질문을 해도 GPT는 어떻게든 말이 되는 답변을 준다.

혹은 GPT에게 잘못된 데이터를 줘도 답변을 이상하게 받을 수 있다. 그래서 데이터에 오류가 있는지 확인을 해야 한다.