[AI 이야기 #7] 왜 AI는 가끔 헛소리를 할까? (AI 할루시네이션이란?)

 

1. 똑똑한 AI가 엉뚱한 말을?

AI와 대화하다 보면 그럴싸하게 말하는데,
알고 보면 틀린 말을 할 때가 있어요.
예를 들어,

“정약용은 고려 시대 사람입니다.”
이런 식으로 말이죠.
듣는 사람 입장에선 “에이, 그건 아니잖아!” 하고 놀랄 수밖에요.



이런 현상을 우리는 ‘AI 할루시네이션 (Hallucination)’이라고 불러요.
직역하면 ‘환각’이지만,
여기선 사실이 아닌 내용을 진짜처럼 말하는 현상을 뜻하죠.



2. 왜 이런 일이 생길까?

AI는 책이나 웹사이트, 논문 등에서 수많은 단어와 문장 패턴을 학습해요.
그런데 이 학습은 ‘사실 확인’이 아니라
문장의 흐름을 예측하는 훈련이에요.

즉, AI는  “가장 자연스러워 보이는 다음 말을 찾는 게임” 을 하고 있는 셈이죠.

그러다 보면…

비슷한 문장을 조합해 새로운 거짓 정보를 만들기도 하고,

실존하지 않는 책이나 사람 이름을 지어내기도 해요.

때로는 있지도 않은 통계를 ‘그럴듯하게’ 말하기도 해요.


이게 바로 AI의 헛소리, 할루시네이션이죠.



3. 사람도 가끔 이렇지 않나요?

재미있는 건,
우리도 가끔 자신 있게 잘못된 정보를 말하곤 해요.

“그 영화는 홍상수 감독 작품이야!”
(알고 보니 봉준호 감독)

이처럼 기억 오류나 착각은 사람에게도 흔하죠.
AI도 완벽하지 않은 만큼,
비슷한 착각을 하는 거예요.

하지만 AI는 자신이 틀렸는지 모른다는 점이 가장 큰 차이예요.
그래서 “정확한 출처”를 요구하거나
“검증된 데이터만 사용해” 같은 프롬프트를 넣는 게 중요해요.



4. 할루시네이션 줄이려면 어떻게 해야 할까?

▪︎ 정확한 질문을 던지기
→ 예: “2020년 노벨문학상 수상자 누구야? 근거도 알려줘.”

▪︎ 출처 요구하기
→ “이 내용 출처는 어디야?”

▪︎ 전문 정보는 반드시 이중 확인하기
→ AI는 참고용! 중요한 건 전문가 검토!

▪︎ ‘자신감 있는 헛소리’를 구별할 눈을 기르기
→ 말투는 당당해도, 내용은 꼭 확인!



5. 그래도 AI는 ‘착각하는 천재’

AI는 수많은 정보를 다룰 수 있는 똑똑한 도구지만,
‘생각하는 존재’는 아니에요.
그러니 AI가 말한다고 무조건 믿지 말고,
도구로 잘 활용하는 지혜가 필요하죠.

AI는 우리가 던지는 질문, 프롬프트에 따라 더 정직하고 유익해질 수 있어요.




참고자료

▪︎ OpenAI 기술문서: “Language Models are Few-Shot Learners”

▪︎ MIT Tech Review: “Why AI models hallucinate – and how we can fix it”

▪︎ DeepMind Blog: “Understanding hallucinations in large language models”



© 2025. CurioCrateWitch. All rights reserved.
무단 전재 및 재배포를 금합니다.

📚 AI 시리즈 전체 보기

• AI 시리즈 1탄 — 칭찬은 AI도 춤추게 한다?
• AI 시리즈 2탄 — AI도 사람 하기 나름이예요?
• AI 시리즈 3탄 — 프롬프트 한 마디로 AI 답변이 달라진다!
• AI 시리즈 4탄 — AI도 상황을 읽을 수 있을까?
• AI 시리즈 5탄 — AI는 왜 때로 다르게 답할까?
• AI 시리즈 6탄 — AI가 왜 사람처럼 느껴질까?
• AI 시리즈 7탄 — 왜 AI는 가끔 헛소리를 할까? (AI 할루시네이션이란?)
• AI 시리즈 8탄 — AI는 나를 기억할 수 있을까?
• AI 시리즈 9탄 — AI의 창작, 진짜 예술일까?
• AI 시리즈 10탄 — AI도 거짓말을 할까?
• AI 시리즈 11탄 — AI가 아이를 가르친다면?
• AI 시리즈 12탄 — AI 시대, 대학은 꼭 필요한가요?
• AI 시리즈 13탄 — AI 시대, 우리는 어떤 일자리를 가질 수 있을까요?