LLM의 본질은 '다음에 올 가장 그럴듯한 단어'를 예측하는 것이지 사실을 실제로 검증하는 게 아닙니다. 그래서 틀린 답이나 가공의 논문 제목, 법 조항을 자신만만하게 내놓을 수 있습니다. 학습 데이터가 희소한 분야일수록 환각이 흔합니다.
엔지니어링 차원의 완화책으로는 RAG(검색한 실제 자료에 근거해 답하게 함), 출처 인용 요구, 더 절제된 프롬프트 사용 등이 있습니다. 하지만 AI가 생성한 중요한 정보는 반드시 사람이 검증해야 합니다. Enclave가 약관에 'AI 콘텐츠는 참고용'이라고 명시한 이유이기도 합니다.
Enclave에서 직접 체험해 보세요
브라우저에서 바로 시작하세요. 신용카드 등록도, 설치도 필요 없습니다.