メインコンテンツへスキップ
Enclave
用語集

Token

LLM がテキストを処理する最小単位(英単語 1 つ、または漢字 1〜数文字程度に相当)。モデル API の課金単位でもあります。

モデルはテキストを「文字」単位では処理せず、まず token に分割します。英語では 1 token ≒ 0.75 単語、中国語では漢字 1 文字がだいたい 1〜2 token です。コンテキストウィンドウのサイズも API 価格(100 万 token 単位)も token で測られます。

自分の API キーで Enclave に接続する場合、token を理解しておくとコストの見積もりに役立ちます。長い会話や大量の記憶注入は入力 token の消費を増やします。

Enclave で実際に試してみる

ブラウザですぐ使えます。クレジットカード登録もインストールも不要。

関連コンテンツ

ほかの用語

共有XTelegramLINEWeibo
Token · Enclave