Modellkonfiguration
Übersicht
Die Seite zur Modellkonfiguration dient der Verwaltung von LLM-Anbietern und Modellparametern. Die APP unterstützt die gleichzeitige Konfiguration mehrerer Anbieter, wobei das System das API-Format und die Fähigkeitserkennung je nach ausgewähltem Modell automatisch umschaltet.
Anbieterunterstützung
| Anbieter | API-Format | Beschreibung |
|---|---|---|
| Anthropic | anthropic | Modelle der Claude-Reihe |
| OpenAI | openai | Modelle der GPT- / o-Reihe |
| DeepSeek | openai | DeepSeek-chat / reasoner |
| Qwen (Tongyi Qianwen) | openai | Qwen-plus / Qwen-max |
| Gemini | openai | Google Gemini-Reihe |
| Benutzerdefiniert | openai / anthropic | Drittanbieterdienste, die mit dem OpenAI- oder Anthropic-Format kompatibel sind |
Konfigurationsoptionen
| Parameter | Beschreibung |
|---|---|
| Anbieterauswahl | LLM-Anbieter aus der Dropdown-Liste auswählen |
| API Key | API-Schlüssel des Anbieters (verschlüsselt gespeichert) |
| Base URL | Adresse des API-Endpunkts (für benutzerdefinierte Anbieter erforderlich) |
| apiFormat | API-Protokollformat: anthropic oder openai |
| Modellauswahl | Auswahl aus der Liste der beim Anbieter verfügbaren Modelle |
| tokensRespLimit | Maximale Anzahl der Ausgabe-Token pro Runde |
Modellfähigkeitsmarkierungen
Das System erkennt die Modellfähigkeiten automatisch über resolveCapabilities, was die Verarbeitung multimodaler Eingaben beeinflusst:
| Fähigkeit | Beschreibung | Auswirkung |
|---|---|---|
| vision | Bildverständnis | Ob Bildeingaben akzeptiert werden |
| document | Dokumentverständnis | Ob Dokumenteingaben wie PDF akzeptiert werden |
| audio | Audioverständnis | Ob Audioeingaben akzeptiert werden |
| tool_use | Werkzeugaufruf | Ob Function Calling unterstützt wird |
Kontextfenster
Standardgröße des Kontextfensters der einzelnen Modelle:
| Modell | Kontextfenster |
|---|---|
| Claude Sonnet 4 / Opus 4 / Claude 4 | 200.000 Token |
| GPT-4o / GPT-4o-mini / GPT-4-turbo | 128.000 Token |
| GPT-4.1 | 1.000.000 Token |
| o3 / o4-mini | 200.000 Token |
| DeepSeek-chat / DeepSeek-reasoner | 64.000 Token |
| Qwen-plus / Qwen-max | 128.000 Token |
Die vollständige Modellliste finden Sie unter Liste der unterstützten Modelle.
Bedienungsanleitung
So konfigurieren Sie ein Modell
- Öffnen Sie die APP → Einstellungsmenü links → Modell
- Wählen Sie in der Anbieterliste den LLM-Anbieter aus, den Sie verwenden möchten (z. B. Anthropic)
- Geben Sie den vom Anbieter bereitgestellten API Key ein
- (Optional) Wenn Sie einen kompatiblen Drittanbieterdienst verwenden, ändern Sie die Base URL auf die vom Dienstanbieter bereitgestellte Endpunktadresse
- Wählen Sie in der Modell-Dropdown-Liste ein konkretes Modell aus (z. B. Claude Sonnet 4)
- Klicken Sie auf Speichern
Hinweis: Der API Key wird verschlüsselt lokal gespeichert und nicht in die Cloud hochgeladen. Geben Sie den API Key niemals an andere weiter und übertragen Sie ihn nicht in ein Code-Repository.
So wechseln Sie das Modell
Nachdem Sie mehrere Anbieter konfiguriert haben, können Sie das aktuell verwendete Modell jederzeit wechseln. Nach dem Wechsel verwendet die nächste Konversation das neue Modell. Der Verlauf bereits bestehender Konversationen bleibt davon unberührt.
Empfehlungen zur Modellauswahl
Für unterschiedliche Szenarien eignen sich unterschiedliche Modelle. Nachfolgend finden Sie empfohlene Kombinationen:
| Anwendungsszenario | Empfohlenes Modell | Begründung |
|---|---|---|
| Alltägliche Konversation und leichte Aufgaben | GPT-4o-mini / Qwen-plus | Schnelle Antwortzeit, niedrige Kosten |
| Komplexes Schlussfolgern und Analyse langer Dokumente | Claude Opus 4 / Claude Sonnet 4 | Starke Schlussfolgerungsfähigkeit, 200K langer Kontext, Unterstützung für document-Eingaben |
| Codeentwicklung und Debugging | DeepSeek-chat / Claude Sonnet 4 | Herausragendes Codeverständnis |
| Extrem langer Kontext (gesamte Codebasis) | GPT-4.1 | Kontextfenster von 1M Token |
| Bildverständnis erforderlich | Claude Sonnet 4 / GPT-4o | Unterstützung der vision-Fähigkeit |
| Kostensensitiv | Qwen-plus / DeepSeek-chat | Niedrigster Preis |
| Tiefes Schlussfolgern erforderlich (Mathematik/Logik) | o3 / DeepSeek-reasoner | Modelle mit Schlussfolgerungskette, aber DeepSeek-reasoner unterstützt keine Werkzeugaufrufe |
Tipp: Wenn Sie unsicher sind, welches Modell Sie wählen sollen, empfehlen wir, mit Claude Sonnet 4 zu beginnen – es zeigt ausgewogene Leistungen bei Schlussfolgern, Code, Werkzeugaufrufen und Multimodalität.
Die tatsächlichen Auswirkungen des Kontextfensters auf Benutzer
Das Kontextfenster bestimmt, wie viel Inhalt sich ein Agent innerhalb einer einzelnen Konversation „merken" kann:
| Fenstergröße | Entspricht etwa | Anwendungsszenario |
|---|---|---|
| 64K Token | ~100 Seiten reiner Text oder ~5 mittelgroße Codedateien | Kurze Konversationen, Operationen an einer einzelnen Datei |
| 128K Token | ~200 Seiten reiner Text oder ~10 Codedateien | Projekte mittlerer Komplexität, Operationen an mehreren Dateien |
| 200K Token | ~300 Seiten reiner Text oder ~15 Codedateien | Komplexe Projekte, lange Konversationen, Analyse von PDF-Dokumenten |
| 1M Token | ~1500 Seiten reiner Text oder ~70 Codedateien | Analyse extrem großer Codebasen, Dokumente in Buchlänge |
Wenn sich der Konversationsinhalt der Obergrenze des Fensters nähert, löst das System automatisch die Kontextkomprimierung aus und behält die wichtigsten Informationen intelligent bei.
Auswirkungen von tokensRespLimit
tokensRespLimit steuert die maximale Anzahl an Token pro Antwortrunde eines Agenten:
| Eingestellter Wert | Auswirkung |
|---|---|
| Zu klein (z. B. 500) | Die Antwort des Agenten kann abgeschnitten werden, komplexe Analysen oder lange Codegenerierungen werden unvollständig |
| Angemessen (z. B. 4096, empfohlener Standard) | Ausgewogenes Verhältnis zwischen Vollständigkeit der Antwort und Antwortgeschwindigkeit |
| Zu groß (z. B. 32000) | Der Agent kann sehr lange Antworten liefern, dies erhöht jedoch die Wartezeit und die Kosten |
Empfehlung: Behalten Sie einfach den Standardwert bei. Wenn Antworten häufig abgeschnitten werden, können Sie den Wert angemessen erhöhen.
Häufige Fragen
API Key ungültig
- Prüfen Sie, ob der Key korrekt kopiert wurde (achten Sie auf Leerzeichen am Anfang und Ende)
- Prüfen Sie, ob der zum Key gehörende Anbieter korrekt ausgewählt wurde
- Prüfen Sie, ob der Key bereits abgelaufen oder widerrufen wurde
Anfrage-Timeout
- Überprüfen Sie die Netzwerkverbindung
- Wenn Sie eine benutzerdefinierte Base URL verwenden, prüfen Sie, ob die Adresse erreichbar ist
- Einige Modelle reagieren bei hoher Auslastung möglicherweise langsamer, versuchen Sie es später erneut
Schlechte Qualität der Modellantworten
- Versuchen Sie, zu einem leistungsstärkeren Modell zu wechseln (z. B. von GPT-4o-mini zu Claude Sonnet 4)
- Prüfen Sie, ob tokensRespLimit zu klein eingestellt ist
- Optimieren Sie Ihren Prompt und geben Sie klarere Anweisungen
Verwandte Dokumente
- Liste der unterstützten Modelle — Vollständige Matrix der Modellfähigkeiten
- 5-schichtige Kontextkomprimierung — Strategie zur Verwaltung des Kontextfensters