ポイント早わかり
- BYOK:自分の Together アカウントと枠を使用。
- ひとつのエンドポイントで多数のオープンソースモデルに接続でき、自前の GPU 推論は不要。
- 「オープンモデルは使いたいが運用はしたくない」人向けの折衷案。
接続方法
モデル設定で OpenAI 互換プロバイダーを選び、Together の API キーを入力し、base URL を Together のエンドポイントに向け、具体的なモデル名を選べば、既定にもキャラクター単位の指定にもできます。
こんな人に
オープンモデルの柔軟さは欲しいが、GPU を自分で買って運用はしたくないユーザー向け。隠界のセルフホストと組み合わせれば、データは自分の手元に置きつつ、推論は Together のクラウドで動きます。
重要な事実
- 接続方式
- BYOK(OpenAI 互換エンドポイント)
- 課金
- Together の公式料金で課金、隠界の上乗せなし
- 適する用途
- クラウドのオープンモデル、GPU 運用不要
- データの流れ
- セルフホスト時はあなたのインスタンスから直接
試してみますか?
ブラウザですぐ使えます。クレジットカード登録もインストールも不要。