1. 똑똑한 AI가 엉뚱한 말을?AI와 대화하다 보면 그럴싸하게 말하는데,알고 보면 틀린 말을 할 때가 있어요.예를 들어,“정약용은 고려 시대 사람입니다.”이런 식으로 말이죠.듣는 사람 입장에선 “에이, 그건 아니잖아!” 하고 놀랄 수밖에요.이런 현상을 우리는 ‘AI 할루시네이션 (Hallucination)’이라고 불러요.직역하면 ‘환각’이지만,여기선 사실이 아닌 내용을 진짜처럼 말하는 현상을 뜻하죠.2. 왜 이런 일이 생길까?AI는 책이나 웹사이트, 논문 등에서 수많은 단어와 문장 패턴을 학습해요.그런데 이 학습은 ‘사실 확인’이 아니라문장의 흐름을 예측하는 훈련이에요.즉, AI는 “가장 자연스러워 보이는 다음 말을 찾는 게임” 을 하고 있는 셈이죠.그러다 보면…비슷한 문장을 조합해 새로운 거짓 정보..
