핵심 요약
- BYOK: 본인의 Together 계정과 할당량을 사용.
- 엔드포인트 하나로 다수의 오픈소스 모델에 접속하며 자체 GPU 추론을 만들 필요가 없습니다.
- '오픈 모델은 쓰고 싶지만 운영은 하기 싫다'는 사람을 위한 절충안.
연결 방법
모델 설정에서 OpenAI 호환 공급자를 선택하고 Together API 키를 입력한 뒤 base URL을 Together 엔드포인트로 지정하고 구체적인 모델명을 고르면 기본값이나 캐릭터별로 설정할 수 있습니다.
이런 분께
오픈 모델의 유연함은 원하지만 GPU를 직접 사서 운영하긴 싫은 사용자에게 적합합니다. 인계 셀프호스팅과 결합하면 데이터는 본인이 관리하고 추론은 Together 클라우드에서 실행됩니다.
핵심 사실
- 연결 방식
- BYOK (OpenAI 호환 엔드포인트)
- 과금
- Together 공식 요금으로 과금, 인계 추가 요금 없음
- 적합 용도
- 클라우드 오픈 모델, GPU 운영 불필요
- 데이터 흐름
- 자체 호스팅 시 본인 인스턴스에서 직접
한번 써보시겠어요?
브라우저에서 바로 시작하세요. 신용카드 등록도, 설치도 필요 없습니다.