사춘기 AI의 반항, 할루시네이션
챗GPT와 같은 AI들도 가끔은 실수합니다. 대표적인 실수로는 발생한적 없는 사건이 일어났다고 주장하거나, 잘못된 데이터를 제공하는 것입니다.
이렇게 생성형 AI가 현실에 존재하지 않는 잘못된 정보를 만들어내는 것을 할루시네이션(hallucination)이라고 합니다.
할루시네이션 예시
- 존재하지 않는 사실: "2022년에 NASA가 화성에 인간을 착륙시켰다"와 같은 사실이 아닌 정보를 제공하는 경우
사실이 아닌 정보를 제공하는 경우
장영실이 발명한 온도계에 대해 설명해 줘
장영실은 온도계를 발명한 적이 없지만, 장영실이 온도계를 발명한 것처럼 설명할 수 있습니다.
- 잘못된 인물 정보: "아인슈타인은 미국의 대통령이었다"는 식의 잘못된 정보를 생성하는 경우
잘못된 인물 정보를 제공하는 경우
고려시대 왕 데이빗에 대해 설명해 줘
고려시대에는 데이빗이라는 왕은 없습니다. 하지만 인공지능은 고려시대의 왕 데이빗을 가상으로 지어내 사실처럼 말할 수 있습 니다.
- 검증되지 않은 데이터: "전 세계 인구의 2%가 한국에 살고 있다"와 같이 잘못된 통계 정보를 제공하는 경우 (실제로는 약 0.7% 정도입니다)
잘못된 통계 정보를 제공하는 경우
스마트폰 사용 시간과 IQ 사이의 상관 관계에 대한 통계를 알려줘
이러한 프롬프트는 AI가 충분히 검증되지 않거나, 주관적인 데이터를 제공할 수 있습니다.
할루시네이션은 왜 발생하나요?
할루시네이션은 학습한 데이터에 오류가 있거나, 인공지능 모델이 학습할 때 특정 상황에 대한 데이터가 부족했거나, 학습이 불균형하게 된 경우 발생할 수 있습니다.
또한 사용자가 모호한 프롬프트를 작성한 경우에도 할루시네이션이 발생할 수 있습니다.
모호한 프롬프트 예시
세계에서 가장 큰 도시의 인구를 알려줘
# 크다는 기준(인구수, 면적, 국력)이 명확하지 않아, AI가 잘못된 정보를 제공할 수 있음
할루시네이션을 줄이려면 어떻게 해야 하나요?
할루시네이션을 줄이려면 명확하고 구체적인 프롬프트를 작성하는 것이 중요합니다.
1. 구체적으로 질문하기
일반적인 프롬프트
영화 '인셉션'에 대해 알려줘.
개선된 프롬프트
영화 '인셉션'의 감독, 주요 출연 배우, 그리고 주요 줄거리에 대해 알려줘.
2. 정보의 출처 명시하기
일반적인 프롬프트
최신 기술 트렌드를 알려줘.
개선된 프롬프트
2023년 1월 이후 출판된 기술 트렌드 보고서에 기반한 최신 기술 트렌드를 알려줘.
3. 필요하지 않은 정보를 배제하기
일반적인 프롬프트
유럽 여행에 대해 조언해줘.
개선된 프롬프트
유럽에서의 2주 간의 여행을 계획 중입니다. 프랑스와 이탈리아에서 가볼 만한 관광지와 추천할 만한 현지 음식을 알려주세요.
4. 예시를 포함해 질문하기
일반적인 프롬프트
사업 계획서를 작성하는 방법을 알려줘.
개선된 프롬프트
사업 계획서 작성 시 필요한 주요 섹션(예: 개요, 시장 분석, 마케팅 전략, 재무 계획)에 대해 설명해줘.
5. 특정 날짜나 시간 범위 제공하기
일반적인 프롬프트
중국 역사에 대해 알려줘.
개선된 프롬프트
1912년부터 1949년까지의 중국 역사, 특히 신해혁명 이후 중화민국 시기와 관련된 주요 사건을 설명해줘.
이외에도 할루시네이션을 최소화하려면, 해당 범주의 가장 최신 AI 모델을 활용하는 것이 좋습니다.