LLM の本質は「次に来る最も確からしい語」の予測であり、事実を実際に検証しているわけではありません。そのため誤った答えや、架空の論文タイトル・法律条文を自信満々に出してくることがあります。学習データが少ない分野ほど幻覚は起こりやすくなります。
エンジニアリング上の緩和策には、RAG（検索した実資料に基づいて回答させる）、出典の明示を求める、より抑制的なプロンプトを使う、などがあります。ただし AI が生成した重要な情報は必ず人間が検証すべきです——Enclave が利用規約で「AI コンテンツは参考情報にすぎない」と明記しているのはこのためです。
Enclave で実際に試してみる
ブラウザですぐ使えます。クレジットカード登録もインストールも不要。