너무나 당당해서 깜빡 속아 넘어간 AI의 거짓말
"이 책의 핵심 내용을 요약해 줘"라고 AI에게 물었을 때, 존재하지도 않는 저자의 이름과 가상의 목차를 그럴싸하게 지어내어 답변을 받은 적이 있으신가요? 저 역시 과거에 블로그 포스팅 자료를 조사하면서 AI가 찾아준 통계 수치를 철석같이 믿고 글을 발행했다가, 나중에 한 독자의 지적을 받고 식은땀을 흘리며 황급히 글을 수정한 부끄러운 경험이 있습니다.
우리는 보통 컴퓨터나 기계가 주는 답변은 '100% 정확한 팩트'일 것이라고 기대합니다. 계산기처럼 정답이 딱 떨어질 것이라 믿는 것이죠. 하지만 챗GPT나 제미나이 같은 생성형 AI는 계산기가 아닙니다. AI가 천연덕스럽게 거짓말을 지어내는 현상, 즉 '할루시네이션(Hallucination, 환각)'은 현재 AI 기술이 가진 가장 치명적인 약점입니다. 특히 구글 애드센스 승인을 목표로 하거나 신뢰도 높은 정보성 블로그를 운영하는 분들에게 이 환각 현상은 블로그의 품질을 한순간에 나락으로 떨어뜨릴 수 있는 시한폭탄과도 같습니다.
 |
AI가 제시한 정보는 언제나 사실일까? 중요한 데이터와 출처는 반드시 사람이 직접 검증해야 한다. |
할루시네이션은 왜 일어나는 걸까? (원리 이해하기)
AI가 거짓말을 하는 이유는 사용자에게 악의가 있어서가 아닙니다. 대규모 언어 모델은 기본적으로 '다음에 올 가장 자연스러운 단어를 확률적으로 예측하는 프로그램'입니다.
예를 들어 "대한민국의 수도는..."이라는 질문을 받으면 학습된 방대한 데이터베이스를 바탕으로 "서울"이라는 단어가 올 확률이 가장 높다고 계산하여 출력하는 방식입니다. 그런데 자신이 잘 모르는, 즉 학습 데이터가 부족한 전문 분야나 최신 이슈에 대해 질문을 받으면 어떻게 될까요? AI는 "저는 모릅니다"라고 대답하기보다는, 자신이 아는 단어들을 그럴듯하게 조합해서 말이 되는 문장을 억지로 만들어냅니다. 문맥상으로는 아주 자연스럽지만 팩트가 전혀 없는 빈 껍데기 문장, 이것이 바로 할루시네이션이 발생하는 원리입니다.
블로거와 직장인이 가장 많이 당하는 거짓말 패턴 3가지
실무에서 AI를 쓰다 보면 특정 상황에서 유독 거짓말을 자주 한다는 것을 알 수 있습니다. 이 패턴만 미리 알아두어도 속을 확률이 절반으로 줄어듭니다.
존재하지 않는 기사 링크나 논문 출처 지어내기: AI에게 "이 주장을 뒷받침할 뉴스 기사 링크를 3개 찾아줘"라고 하면, 클릭조차 되지 않는 가짜 URL을 만들어내거나 아예 다른 내용의 기사 링크를 던져주는 경우가 허다합니다.
통계 수치와 연도 조작하기: "2023년 국내 스마트폰 점유율 표로 그려줘"라고 했을 때, AI가 제시하는 퍼센트(%) 수치는 다른 연도의 데이터와 뒤섞여 있거나 임의로 생성된 가짜 숫자일 확률이 높습니다.
비슷한 두 제품의 스펙 섞어버리기: IT 기기 리뷰를 쓸 때 "A모델과 B모델의 차이점"을 물어보면, A모델에만 있는 기능을 B모델에도 있다고 당당하게 우기곤 합니다.
내 글의 신뢰도를 지키는 무적의 팩트 체크 3원칙
그렇다면 이 불안한 AI를 아예 쓰지 말아야 할까요? 아닙니다. 우리는 AI를 훌륭한 '초안 작성자'로 활용하되, 최종 팩트를 검증하는 '편집장'의 역할을 엄격하게 수행하면 됩니다.
첫째, AI가 제시한 고유명사, 숫자(통계), 출처는 무조건 구글 검색으로 교차 검증하세요. AI가 "통계청 2023년 자료에 따르면..."이라고 했다면, 직접 구글에 해당 키워드를 검색해서 원문 문서가 존재하는지 눈으로 확인해야만 내 블로그 글에 인용할 수 있습니다. (제미나이의 경우 답변 하단의 'G' 마크를 눌러 자체 팩트 체크를 꼭 돌려보세요.)
둘째, 애초에 AI가 상상력을 발휘하지 못하도록 프롬프트에 '재료'를 직접 던져주세요. "너의 지식으로 대답하지 말고, 내가 지금부터 붙여넣기 하는 이 뉴스 기사 텍스트 안에서만 정답을 찾아서 요약해 줘"라고 조건을 걸면 환각을 90% 이상 차단할 수 있습니다.
셋째, YMYL(의학/건강, 금융/투자, 법률) 주제는 단정적인 표현을 절대 피하세요. "이 영양제를 먹으면 무조건 낫습니다" 대신, "일반적으로 알려진 효능은 이러하며, 정확한 진단은 반드시 전문가와 상담하시길 권장합니다"라는 한계 명시 문구를 글 하단에 꼭 추가하여 독자와 내 블로그를 동시에 보호해야 합니다.
핵심 요약
AI는 정답 자판기가 아니라 다음에 올 단어를 예측하는 확률 모델이므로, 모르는 것도 아는 것처럼 꾸며내는 할루시네이션(환각)을 필연적으로 일으킵니다.
존재하지 않는 링크, 조작된 통계 수치, 잘못된 제품 스펙은 AI가 가장 자주 범하는 거짓말 패턴이므로 맹신해서는 안 됩니다.
통계나 출처는 반드시 구글링으로 원문을 직접 확인하고, 가급적 외부 자료를 프롬프트에 직접 입력해 '그 안에서만' 대답하도록 통제하세요.
다음 편 예고
할루시네이션이라는 함정만 잘 피한다면 AI는 여전히 최고의 업무 비서입니다. 지금까지 주로 PC 환경에서 텍스트와 씨름했다면, 이제는 밖으로 나갈 차례입니다. 다음 14편에서는 출퇴근 지하철이나 침대에 누워서도 업무를 처리할 수 있는 '스마트폰에서 AI 챗봇 200% 활용하는 모바일 연동 팁'을 공개하겠습니다.
질문
지금까지 AI와 대화하시면서 "이거 진짜 맞아?" 하고 의심해서 찾아봤더니 완전히 엉터리 정보였던 적이 있으신가요? 어떤 황당한 거짓말을 들어보셨는지 댓글로 공유해 주시면, 이런 실수를 방지하는 맞춤형 프롬프트 제약 조건을 알려드리겠습니다!
