概要
GPTBotsは、様々なビジネスシーンでの多様な顧客ニーズに対応するために、多様なLLMや特別なモデルを提供しています。これらのモデルは、テキストの認識と生成、画像認識と生成、音声認識と生成、ファイル認識と生成など、異なる能力と特性を持ち、各々のモデルの能力に基づいてサービスの価格が設定されます。
GPTBotsが提供しているモデルサービスの種類は以下のとおりです:
- LLM:OpenAIやClaude、Gemini、ChatGLM、llamaなど、各種ベンダーによる多くのバージョンのLLMモデルをサポートしています。
- 埋め込みモデル:OpenAIやBGE、BCEなど、多くの埋め込みモデルをサポートしています。ただし、SaaSバージョンでは、より質の高いサービスを提供するため、1つの埋め込みモデルのみをサポートしていますが、複数のベクトル次元が共存することが可能です。
- リランクモデル:Jina、BGE、BCEなど、さまざまなリランク(再ランキング)モデルをサポートしています。
- 音声モデル:OpenAIやMinimaxなど、多くの音声モデルをサポートしています。
用語の定義
企業のユーザーがモデルサービスを管理し、利用することが容易になるように、GPTBotsでは、モデルブランドとモデルバージョンの視点からサービスを抽象化し、以下の概念を定義します:モデルベンダー
:大規模モデルの開発元となる企業の名称。OpenAI、Anthropic、MistralAI、Ali、ZhiPu、Tencentなどが含まれます。モデル名
:大規模モデルのブランド名。GPT、Claude、Gemini、ChatGLM、llamaなどが存在します。モデルバージョン
:能力範囲が異なる大規模モデルのバージョン。GPT-4o、GPT-o1-mini、Gemini-1.5-proなどが存在します。展開方法
:ベンダー元が提供するモデルAPIサービスを公式展開とし、第三者の計算プラットフォームベンダーが提供するものはオープン展開と呼びます。APIプロトコル
:大規模モデルを実行する計算サービスプラットフォームのプロトコルの仕様。OpenAIがGPTを実行する場合、Amazon BedrockがClaudeを実行する場合、together.aiがLlamaを実行する場合などでは、一般的にOpenAIプロトコル規格が使われます。APIキー
:モデルサービスAPIを呼び出す際の認証設定を指します。モデルサービスプロバイダーは通常、異なるAPIキーに対して頻度制限や独立した課金設定を行います。
モデルサービス設定
GPTBotsでは、プラットフォームキーを使用したモデルサービス設定方法と、自身の所有キーを使用したモデルサービス設定方法の2つを提供しています。企業は自身のニーズに合わせた方法を選択できます。
モデルサービス設定の際、GPTBotsでは、指定された「モデルブランド/モデルバージョン」に対して、複数のモデルAPIプロトコルおよび複数のAPIキーを同時に設定することをサポートしています。モデルサービス呼び出し時、GPTBotsは自動的に異なるAPIキーをローテーション方式で使用し、モデルサービスの高可用性と高並列性を実現します。
Platform KEYを使用してモデルサービスを呼び出す
企業は、各モデルサービスベンダーからアカウントを登録し、サービスを購入する必要はありません。GPTBotsの プラットフォームキーを使用して、直接モデルサービスを呼び出すことができます。企業は「GPTBotsプラットフォーム - 組織 - 利用状況」でモデルサービス呼び出しの詳細トークンデータを表示し、GPTBotsの対応するクレジットを消費します。詳細な料金設定については、サービス価格をご参照ください。
自己所有のKEYを使用してモデルサービスを呼び出す
企業は、各モデルサービスベンダーから登録し、発行された自身の所有キーをGPTBotsプラットフォームに登録することができます。これにより、関連する料金は直接モデルサービスプロバイダーに支払うことになります。企業は「GPTBotsプラットフォーム - 組織 - 利用状況」でモデルサービス呼び出しによって消費されたトークンデータを表示し、GPTBotsにわずかなチャネルサービス利用クレジットを消費します。詳細な料金設定については、サービス価格をご参照ください。
モデルサービス一覧
GPTBotsは、企業のビジネスシナリオに適したモデルサービスを継続的に追加していきます。企業が必要とするモデルサービスがリストにない場合は、お問い合わせください。そのモデルを詳しく評価・テストし、サポートを提供します。現在、サポートされているモデルサービスとその能力は以下の通りです:
LLMs
OpenAI GPTシリーズ: GPTはOpenAIによって開発された大規模な言語モデルシリーズで、GPT-3.5、GPT-4o、GPT-o1などがあります。
モデルベンダー/ブランド | モデルバージョン | コンテキスト効能の限度 | 生成制限 | プラグイン | 入力画像 | 入力音声 | 入力ファイル | 出力テキスト | 出力音声 |
---|---|---|---|---|---|---|---|---|---|
OpenAI/GPT | GPT-4o | 128k | 8k | ✓ | ✓ | × | × | ✓ | × |
OpenAI/GPT | GPT-4o-audio | 128k | 8k | ✓ | ✓ | ✓ | × | ✓ | ✓ |
OpenAI/GPT | GPT-4o-mini | 128k | 8k | ✓ | ✓ | × | × | ✓ | × |
OpenAI/GPT | GPT-o1 | 128k | 8k | × | ✓ | × | × | ✓ | × |
OpenAI/GPT | GPT-o1-mini | 128k | 8k | × | ✓ | × | × | ✓ | × |
OpenAI/GPT | GPT-3.5-turbo | 16k | 4k | ✓ | × | × | × | ✓ | × |
Anthropic Claude シリーズ: Claudeは、Anthropicによって開発された大規模な言語モデルシリーズで、Opus、Sonnet、Haikuなどのバージョンがあります。
モデルベンダー/ブランド | モデルバージョン | コンテキスト効能の限度 | 生成制限 | プラグイン | 入力画像 | 入力音声 | 入力ファイル | 出力テキスト | 出力音声 |
---|---|---|---|---|---|---|---|---|---|
Anthropic/Claude | Claude-3-opus | 200k | 4k | ✓ | ✓ | × | × | ✓ | × |
Anthropic/Claude | Claude-3.5-sonnet | 200k | 8k | ✓ | ✓ | × | ✓ | ✓ | × |
Anthropic/Claude | Claude-3.5-haiku | 200k | 8k | ✓ | ✓ | × | × | ✓ | × |
GoogleのGeminiシリーズ: Geminiは、Googleによって開発された大規模な言語モデルシリーズで、ProやFlashなどのバージョンが含まれています。
モデルベンダー/ブランド | モデルバージョン | コンテキスト効能の限度 | 生成制限 | プラグイン | 入力画像 | 入力音声 | 入力ファイル | 出力テキスト | 出力音声 |
---|---|---|---|---|---|---|---|---|---|
Google/Gemini | Gemini-1.5-pro | 1M | 8k | ✓ | ✓ | ✓ | ✓ | ✓ | × |
Google/Gemini | Gemini-1.5-flash | 1M | 8k | ✓ | ✓ | ✓ | ✓ | ✓ | × |