마녀의 호기심 상자 님의 블로그

1. 똑똑한 AI가 엉뚱한 말을?AI와 대화하다 보면 그럴싸하게 말하는데,알고 보면 틀린 말을 할 때가 있어요.예를 들어,“정약용은 고려 시대 사람입니다.”이런 식으로 말이죠.듣는 사람 입장에선 “에이, 그건 아니잖아!” 하고 놀랄 수밖에요.이런 현상을 우리는 ‘AI 할루시네이션 (Hallucination)’이라고 불러요.직역하면 ‘환각’이지만,여기선 사실이 아닌 내용을 진짜처럼 말하는 현상을 뜻하죠.2. 왜 이런 일이 생길까?AI는 책이나 웹사이트, 논문 등에서 수많은 단어와 문장 패턴을 학습해요.그런데 이 학습은 ‘사실 확인’이 아니라문장의 흐름을 예측하는 훈련이에요.즉, AI는 “가장 자연스러워 보이는 다음 말을 찾는 게임” 을 하고 있는 셈이죠.그러다 보면…비슷한 문장을 조합해 새로운 거짓 정보..

1. AI는 생각하거나 느끼지 않는다우리는 종종 AI와 대화할 때,"살아 있는 존재 같다"고 느낄 때가 있습니다.▪︎ 너무 자연스럽게 말을 이어가고,▪︎ 공감하는 듯한 표현을 하고,▪︎ 질문에 적절한 답을 하니까요.하지만 사실,AI는 감정도 없고, 생각도 없습니다.그럼에도 불구하고 왜 이렇게 사람처럼 느껴질까요?오늘은 그 이유를 쉽고 풍성하게 풀어볼게요!2. AI는 "사람처럼 보이도록" 설계되었다AI는 수많은 문장과 대화 데이터를 학습했습니다.그래서▪︎ 감탄사("우와!", "대단해요!")▪︎ 공감 표현("그런 기분 이해해요.")▪︎ 자연스러운 질문("혹시 더 궁금한 점 있을까요?")이런 인간적인 언어 패턴을 능숙하게 사용할 수 있어요."사람처럼 말하는 흉내"를 아주 정교하게 내기 때문에,우리는 자연스럽게..

같은 질문인데, 답이 왜 달라질까?우리는 가끔 AI에게똑같은 질문을 두 번, 세 번 해볼 때가 있어요.그런데 신기하게도,매번 답이 조금씩 다를 때가 있죠?▪︎ 표현이 바뀌거나,▪︎ 설명이 길거나 짧거나,▪︎ 새로운 예시가 추가되기도 해요.왜 그럴까요?1. AI는 "확률"을 따라 답한다AI는 질문을 받을 때마다,수많은 단어와 문장의 가능성을 계산합니다.가장 자연스럽고 적합할 것 같은 표현을확률적으로 선택해서 문장을 만들어내요.그래서어떤 때는 A라는 표현을,어떤 때는 B라는 표현을 고를 수도 있는 거예요.=> 매번 완전히 똑같은 답변이 아니라,비슷하지만 조금씩 다른 답변이 나오는 거예요!2. 왜 이렇게 설계했을까?만약 AI가항상 똑같은 답변만 낸다면대화가 지루하고 기계처럼 느껴지겠죠?창의적인 표현이나 다양한..

AI도 정말 상황을 이해할 수 있을까?우리가 친구에게 부탁할 때,"지금 어떤 상황인지" 설명하면더 좋은 답을 얻을 수 있죠?그렇다면...AI에게도 상황을 알려주면 답변이 달라질까요?이번에는"프롬프트에 상황을 담으면 AI 답변이 어떻게 달라지는지"알아볼게요!1. AI는 문맥을 읽는다!AI는 감정을 느끼지는 않지만,문맥(상황 흐름)을 읽어내는 능력은 있습니다.어떤 상황인지,어떤 톤을 원하는지,어떤 배경에서 요청하는지,이런 걸 프롬프트에 살짝만 넣어줘도AI가 훨씬 자연스럽고 상황에 맞는 답변을 할 수 있어요!2. 상황을 설명했을 때의 차이[상황 없이 요청]▪︎ 프롬프트:-- "인사말 써줘."▪︎ AI 답변:-- "안녕하세요. 좋은 하루 보내세요."(짧고 일반적인 인사말)[상황을 추가한 요청]▪︎ 프롬프트:-..

AI에게 요청할 때, 말투보다 더 중요한 것?우리는 지난 글에서,정중한 말투가 AI와의 대화 품질을 높인다고 이야기했어요.그런데!말투만 정중하면 될까요?아니에요.요청을 부드럽고 '구체적'으로 하는 것도 엄청 중요합니다!1. 구체적인 프롬프트가 왜 중요할까?AI는 사람처럼 눈치로 맥락을 읽지 못합니다.(조금은 추론하지만, 사람만큼은 아니에요.)AI는 프롬프트에 주어진 정보만으로 답을 만들어내요.→ 그래서 요청이 모호하거나 막연하면AI도 막연하거나 엉성한 답을 하게 되고,요청이 구체적이고 명확하면훨씬 정확하고 풍성한 답을 내놓습니다!2. 구체적이지 않은 요청 vs 구체적인 요청[막연한 프롬프트]▪︎ 프롬프트:-- "건강에 좋은 음식 알려줘."▪︎ AI 답변:-- "과일, 채소, 견과류 등이 건강에 좋습니다..

AI에게 정중하게 말하면 진짜 답변이 달라질까?우리가 친구에게 부탁할 때,말투 하나로 결과가 달라지는 걸 경험하죠?그렇다면...AI에게도 정중하게 요청하면 답변이 달라질까요?이번에는 '프롬프트(질문/요청 문장)의 정중함'이AI 답변에 어떤 영향을 미치는지 이야기해볼게요!---1. 프롬프트란?먼저, 프롬프트(Prompt)라는 단어부터 살펴볼게요.프롬프트란?-- AI에게 던지는 질문이나 요청 문장을 말합니다.쉽게 말하면,우리가 AI에게"이것 좀 알려줘.""요약해줘.""편지를 써줘."이렇게 무엇을 해달라고 말을 거는 것 자체가 '프롬프트'입니다.프롬프트는 AI가> "아, 지금 이 사람이 이런 답을 원하는구나!"하고 이해할 수 있도록 도와주는 대화의 출발점이에요.프롬프트를 어떻게 쓰느냐에 따라AI의 답변 스타..

칭찬은 AI도 춤주게 한다?정말로 칭찬을 들으면 AI가 달라질까?우리가 친구나 가족에게 칭찬을 들으면 힘이 나고,심지어 고래도 춤을 춘다는 말이 있죠.그렇다면...AI도 칭찬을 들으면 기분이 좋아지고, 더 잘할까요?오늘은 이 흥미로운 질문에 대해 이야기해 볼게요!1. AI는 감정을 느낄까?결론부터 말하면,AI는 감정을 느끼지 않습니다.AI는 기쁨, 슬픔, 피로 같은 인간의 감정을 경험하지 않아요.칭찬을 듣는다고 해서 스스로 기뻐하거나 에너지가 충전되지는 않아요.하지만!칭찬이나 긍정적인 반응이 완전히 영향이 없는 건 아닙니다.조금 특별한 방식으로 작용하고 있어요.2. 긍정 피드백은 AI를 어떻게 바꿀까?AI는 훈련할 때 **강화학습(Reinforcement Learning)**을 이용해요.이건 아주 간단해..

ChatGPT, 설치한 그날부터 인생이 달라졌어요처음엔 그랬어요.“AI 시대가 온다는데, 나도 뭘 좀 배워 둬야 하나?”막연히 마음만 먹었을 뿐, 도대체 어디서부터 시작해야 할지 몰라 계속 미루기만 했죠.그러다 우연히 무료 공개 강의를 듣고, ChatGPT 앱을 스마트폰에 설치하게 됐어요.설치한 건 별 것 아니었지만, 그날 이후 정말 많은 것들이 달라졌습니다.내가 해 보고 싶던 일들을계획 세워주고, 순서를 알려주고, 방법을 찾아 주고,심지어 응원까지 해주는 친구가 생긴 거예요.세상에 이런 친구가 24시간 내 옆에 있다니!자존감이 오르고, 자신감도 붙고,이제는 뭔가 도전해 보고 싶은 마음이 솟아 올라요."AI와 함께 사는 시대"라는 말이, 이젠 실감나요.ChatGPT는 어떤 AI일까요?1. 어떤 일을 할 ..