Übersicht

Um den vielfältigen Anforderungen der Kund:innen in unterschiedlichen Geschäftsszenarien gerecht zu werden, bietet GPTBots eine breite Auswahl an LLMs und spezialisierten Modellen für verschiedene Geschäftsszenarien. Diese Modelle verfügen über unterschiedliche Fähigkeiten und Eigenschaften, etwa die Erkennung und Generierung von Texten, Bildern, Audiodateien und Dateien. Die Servicepreise variieren je nach Leistungsumfang des jeweiligen Modells.

Die von GPTBots bereitgestellten Modellservices umfassen:

• LLMs: Unterstützung mehrerer Versionen marktüblicher LLM-Modelle verschiedener Anbieter wie OpenAI, Claude, Gemini, ChatGLM, llama und weiteren führenden kommerziellen sowie Open-Source-Modellen.
• Embedding-Modelle: Unterstützung verschiedener Embedding-Modelle wie OpenAI, BGE, BCE und weiteren marktüblichen kommerziellen oder Open-Source-Modellen. In der SaaS-Version wird zur Optimierung der Services allerdings nur ein Embedding-Modell unterstützt, wobei jedoch mehrere Vektordimensionen koexistieren können.
• Rerank-Modelle: Unterstützung mehrerer Rerank-Modelle wie Jina, BGE, BCE und weiteren marktüblichen kommerziellen oder Open-Source-Modellen.
• Audio-Modelle: Unterstützung verschiedener Audio-Modelle wie OpenAI, Minimax und weiteren marktüblichen kommerziellen oder Open-Source-Modellen.

Begriffsdefinitionen

Um Unternehmensnutzer:innen die Verwaltung und Nutzung der Modellservices zu erleichtern, abstrahiert GPTBots die Services aus Sicht von Modellmarke und Modellversion und definiert folgende Begriffe:

• Modellanbieter: Name des Unternehmens, das das Large Language Model entwickelt, z. B. OpenAI, Anthropic, MistralAI, Ali, ZhiPu, Tencent usw.
• Modellname: Markenname des Large Language Models, z. B. GPT, Claude, Gemini, ChatGLM, llama usw.
• Modellversion: Versionen des Large Language Models mit unterschiedlichen Fähigkeitsschwerpunkten, z. B. GPT-4o, GPT-o1-mini, Gemini-1.5-pro usw.
• Bereitstellungsmethode: Modell-API-Services, die vom Originalanbieter bereitgestellt werden, gelten als offizielle Bereitstellungen; solche von Drittanbieter-Computing-Plattformen als offene Bereitstellungen.
• API-Protokoll: Protokollspezifikation der Computing-Service-Plattform, auf der das Large Language Model läuft. Beispiele sind OpenAI mit GPT, Amazon Bedrock mit Claude, together.ai mit Llama sowie der relativ universelle OpenAI-Protokollstandard.
• API KEY: Authentifizierungsschlüssel zur Nutzung der Modellservice-API. Modellservice-Anbieter setzen in der Regel Frequenzlimits und eine eigenständige Abrechnung für verschiedene API KEYs um.

Modellservice-Konfiguration

GPTBots bietet zwei Möglichkeiten zur Konfiguration von Modellservices: die Nutzung des Plattform-KEYs sowie die Konfiguration eines eigenen KEYs. Unternehmen können die für sie passende Methode wählen.

Bei der Konfiguration von Modellservices unterstützt GPTBots die Konfiguration mehrerer Modell-API-Protokolle und API-KEYs gleichzeitig für eine bestimmte „Modellmarke/Modellversion“. Beim Aufruf von Modellservices rotiert GPTBots automatisch zwischen verschiedenen API-KEYs, um maximale Verfügbarkeit und Parallelität der Modellservices zu gewährleisten.

Modellservices mit Plattform-KEY nutzen

Unternehmen müssen keine eigenen Konten bei verschiedenen Modellservice-Anbietern registrieren oder Services erwerben. Sie können direkt den Plattform-KEY von GPTBots nutzen, um Modellservices aufzurufen. Detaillierte Token-Daten zu Modellservice-Aufrufen finden Sie unter „GPTBots Plattform – Organisation – Nutzung“. Die Abrechnung erfolgt über entsprechende Credits auf GPTBots. Details zu den Preisen finden Sie unter Servicepreise.

Modellservices mit eigenem KEY nutzen

Unternehmen können ihre bei verschiedenen Modellservice-Anbietern registrierten und aktivierten eigenen KEYs auf der GPTBots-Plattform hinterlegen und die Abrechnung direkt mit den Modellservice-Anbietern abwickeln. Die verbrauchten Token-Daten sind ebenfalls unter „GPTBots Plattform – Organisation – Nutzung“ einsehbar; für die Nutzung des Kanaldienstes werden geringe Credits auf GPTBots verbraucht. Details zu den Preisen finden Sie unter Servicepreise.

Liste der Modellservices

GPTBots erweitert das Angebot an Modellservices kontinuierlich, um den Anforderungen von Unternehmen gerecht zu werden. Sollte das von Ihnen benötigte Modell nicht in der Liste enthalten sein, kontaktieren Sie uns bitte – wir prüfen und testen das Modell gerne, um es ggf. zu unterstützen. Die aktuell unterstützten Modellservices und deren jeweiligen Funktionen sind im Folgenden aufgeführt:

LLMs

OpenAI GPT-Modellreihe: GPT ist eine Large Language Model-Reihe von OpenAI, darunter GPT-3.5, GPT-4o, GPT-o1 und weitere.

Anthropic Claude-Modellreihe: Claude ist eine Large Language Model-Reihe von Anthropic, darunter Versionen wie Opus, Sonnet und Haiku.

Google Gemini-Modellreihe: Gemini ist eine Large Language Model-Reihe von Google, darunter Versionen wie Pro und Flash.