logo
Development
検索
概要

概要

GPTBotsは、様々なビジネスシーンでの多様な顧客ニーズに対応するために、多様なLLMや特別なモデルを提供しています。これらのモデルは、テキストの認識と生成、画像認識と生成、音声認識と生成、ファイル認識と生成など、異なる能力と特性を持ち、各々のモデルの能力に基づいてサービスの価格が設定されます。
GPTBotsが提供しているモデルサービスの種類は以下のとおりです:

  • LLM:OpenAIやClaude、Gemini、ChatGLM、llamaなど、各種ベンダーによる多くのバージョンのLLMモデルをサポートしています。
  • 埋め込みモデル:OpenAIやBGE、BCEなど、多くの埋め込みモデルをサポートしています。ただし、SaaSバージョンでは、より質の高いサービスを提供するため、1つの埋め込みモデルのみをサポートしていますが、複数のベクトル次元が共存することが可能です。
  • リランクモデル:Jina、BGE、BCEなど、さまざまなリランク(再ランキング)モデルをサポートしています。
  • 音声モデル:OpenAIやMinimaxなど、多くの音声モデルをサポートしています。

用語の定義

企業のユーザーがモデルサービスを管理し、利用することが容易になるように、GPTBotsでは、モデルブランドとモデルバージョンの視点からサービスを抽象化し、以下の概念を定義します:
モデルベンダー:大規模モデルの開発元となる企業の名称。OpenAI、Anthropic、MistralAI、Ali、ZhiPu、Tencentなどが含まれます。
モデル名:大規模モデルのブランド名。GPT、Claude、Gemini、ChatGLM、llamaなどが存在します。
モデルバージョン:能力範囲が異なる大規模モデルのバージョン。GPT-4o、GPT-o1-mini、Gemini-1.5-proなどが存在します。
展開方法:ベンダー元が提供するモデルAPIサービスを公式展開とし、第三者の計算プラットフォームベンダーが提供するものはオープン展開と呼びます。
APIプロトコル:大規模モデルを実行する計算サービスプラットフォームのプロトコルの仕様。OpenAIがGPTを実行する場合、Amazon BedrockがClaudeを実行する場合、together.aiがLlamaを実行する場合などでは、一般的にOpenAIプロトコル規格が使われます。
APIキー:モデルサービスAPIを呼び出す際の認証設定を指します。モデルサービスプロバイダーは通常、異なるAPIキーに対して頻度制限や独立した課金設定を行います。

モデルサービス設定

GPTBotsでは、プラットフォームキーを使用したモデルサービス設定方法と、自身の所有キーを使用したモデルサービス設定方法の2つを提供しています。企業は自身のニーズに合わせた方法を選択できます。
モデルサービス設定の際、GPTBotsでは、指定された「モデルブランド/モデルバージョン」に対して、複数のモデルAPIプロトコルおよび複数のAPIキーを同時に設定することをサポートしています。モデルサービス呼び出し時、GPTBotsは自動的に異なるAPIキーをローテーション方式で使用し、モデルサービスの高可用性と高並列性を実現します。
models-configuration

Platform KEYを使用してモデルサービスを呼び出す

企業は、各モデルサービスベンダーからアカウントを登録し、サービスを購入する必要はありません。GPTBotsの プラットフォームキーを使用して、直接モデルサービスを呼び出すことができます。企業は「GPTBotsプラットフォーム - 組織 - 利用状況」でモデルサービス呼び出しの詳細トークンデータを表示し、GPTBotsの対応するクレジットを消費します。詳細な料金設定については、サービス価格をご参照ください。

自己所有のKEYを使用してモデルサービスを呼び出す

企業は、各モデルサービスベンダーから登録し、発行された自身の所有キーをGPTBotsプラットフォームに登録することができます。これにより、関連する料金は直接モデルサービスプロバイダーに支払うことになります。企業は「GPTBotsプラットフォーム - 組織 - 利用状況」でモデルサービス呼び出しによって消費されたトークンデータを表示し、GPTBotsにわずかなチャネルサービス利用クレジットを消費します。詳細な料金設定については、サービス価格をご参照ください。

モデルサービス一覧

GPTBotsは、企業のビジネスシナリオに適したモデルサービスを継続的に追加していきます。企業が必要とするモデルサービスがリストにない場合は、お問い合わせください。そのモデルを詳しく評価・テストし、サポートを提供します。現在、サポートされているモデルサービスとその能力は以下の通りです:

LLMs

OpenAI GPTシリーズ: GPTはOpenAIによって開発された大規模な言語モデルシリーズで、GPT-3.5、GPT-4o、GPT-o1などがあります。

モデルベンダー/ブランド モデルバージョン コンテキスト効能の限度 生成制限 プラグイン 入力画像 入力音声 入力ファイル 出力テキスト 出力音声
OpenAI/GPT GPT-4o 128k 8k × × ×
OpenAI/GPT GPT-4o-audio 128k 8k ×
OpenAI/GPT GPT-4o-mini 128k 8k × × ×
OpenAI/GPT GPT-o1 128k 8k × × × ×
OpenAI/GPT GPT-o1-mini 128k 8k × × × ×
OpenAI/GPT GPT-3.5-turbo 16k 4k × × × ×

Anthropic Claude シリーズ: Claudeは、Anthropicによって開発された大規模な言語モデルシリーズで、Opus、Sonnet、Haikuなどのバージョンがあります。

モデルベンダー/ブランド モデルバージョン コンテキスト効能の限度 生成制限 プラグイン 入力画像 入力音声 入力ファイル 出力テキスト 出力音声
Anthropic/Claude Claude-3-opus 200k 4k × × ×
Anthropic/Claude Claude-3.5-sonnet 200k 8k × ×
Anthropic/Claude Claude-3.5-haiku 200k 8k × × ×

GoogleのGeminiシリーズ: Geminiは、Googleによって開発された大規模な言語モデルシリーズで、ProやFlashなどのバージョンが含まれています。

モデルベンダー/ブランド モデルバージョン コンテキスト効能の限度 生成制限 プラグイン 入力画像 入力音声 入力ファイル 出力テキスト 出力音声
Google/Gemini Gemini-1.5-pro 1M 8k ×
Google/Gemini Gemini-1.5-flash 1M 8k ×