モデルはテキストを「文字」単位では処理せず、まず token に分割します。英語では 1 token ≒ 0.75 単語、中国語では漢字 1 文字がだいたい 1〜2 token です。コンテキストウィンドウのサイズも API 価格(100 万 token 単位)も token で測られます。
自分の API キーで Enclave に接続する場合、token を理解しておくとコストの見積もりに役立ちます。長い会話や大量の記憶注入は入力 token の消費を増やします。
Enclave で実際に試してみる
ブラウザですぐ使えます。クレジットカード登録もインストールも不要。