LLM 本质是在预测「下一个最可能的词」,并不真正核实事实,所以会自信地给出错误答案、虚构论文标题或法律条款。越是训练数据稀疏的领域,幻觉越常见。
工程上的缓解手段包括 RAG(让模型基于检索到的真实材料回答)、要求引用来源、用更克制的提示词等。但任何 AI 生成的关键信息都应当人工核验——这也是隐界在条款里明确「AI 内容仅供参考」的原因。
在隐界里亲手试试
浏览器即开即用,不需要注册任何信用卡。
AI 一本正经地编造不存在的事实、引用、数据的现象——是 LLM 的固有局限,可以缓解但无法根除。
LLM 本质是在预测「下一个最可能的词」,并不真正核实事实,所以会自信地给出错误答案、虚构论文标题或法律条款。越是训练数据稀疏的领域,幻觉越常见。
工程上的缓解手段包括 RAG(让模型基于检索到的真实材料回答)、要求引用来源、用更克制的提示词等。但任何 AI 生成的关键信息都应当人工核验——这也是隐界在条款里明确「AI 内容仅供参考」的原因。
浏览器即开即用,不需要注册任何信用卡。