Konfiguration

Hier können Sie verschiedene grundlegende Parameter für den Agenten konfigurieren. Die Konfiguration beeinflusst die Leistungsfähigkeit des Agenten direkt.

LLM

Hier legen Sie die LLM-Parameter fest.

• LLM: Das vom Agenten verwendete LLM.
• Temperatur: Kann auch als „Kreativität“ verstanden werden. Je höher der Wert, desto ausgeprägter ist die Divergenz des LLMs – das bedeutet, das LLM kann sehr kreative Ergebnisse liefern, allerdings steigt auch die Unvorhersehbarkeit. Je niedriger der Wert, desto stärker ist die Konvergenz – die Antworten des LLMs werden dadurch präziser und stabiler.
• Identitäts-Prompt: Bestimmt, welche Art von Entität der Agent ist. Im Identitäts-Prompt können Sie Rolle, Ziele, Aufgaben, Abläufe, Einschränkungen, Fähigkeiten usw. für den Agenten definieren, sodass der Agent seine Rolle besser versteht und Aufgaben wie gewünscht ausführt. Sie können außerdem oben rechts auf „KI“ klicken, um den aktuellen Identitäts-Prompt automatisch optimieren zu lassen. Die KI erstellt für Sie auf Basis des wissenschaftlichen „Prompt Engineering“-Frameworks einen effizienteren und fundierteren Identitäts-Prompt.
• Token-Konfiguration: Legt fest, wie verschiedene Inhaltstypen im Kontextfenster des LLMs gewichtet werden.

Wissensdatenbank

Der Agent nutzt die Eingaben der Nutzer:innen, um eine Vektor-Suche in der Wissensdatenbank durchzuführen. Er ruft mehrere Wissensbausteine als Kontext ab und übergibt diese dem LLM zur Bearbeitung der Aufgaben.

Hier legen Sie fest, wie der Agent die Wissensdatenbank nutzt.

• Suchumfang: Die Anzahl der Wissensdokumente, die für die Suche zur Verfügung stehen.
• Recall-Mechanismus:
  • Relevanz: Die semantische Übereinstimmung zwischen der Nutzerfrage und dem Wissensbaustein. Nur Wissensbausteine mit einem Wert größer oder gleich diesem Wert werden als Referenz für die Antwort des Agenten verwendet.
  • Maximale Anzahl abgerufener Wissensbausteine: Die maximale Anzahl der nach der Suche abgerufenen Wissensbausteine.
  • Suchgewichtung: Verhältnis zwischen Vektor- und Schlüsselwortsuche bei der Recherche.
• Fallback-Antwortmodus: Die Antwortstrategie des Agenten, wenn keine Wissensbausteine abgerufen werden.
• Anzeige der Wissensreferenz: Legt fest, ob Quellinformationen der Wissensbasis bei jeder LLM-Antwort angezeigt werden.

Tools

Hier können Sie die vom Agenten benötigten Tools konfigurieren.

Im Identitäts-Prompt können Sie festlegen, wann der Agent Tools verwendet. Struktur:

                      
                      Übersetze dies ins Englische: Verwende das {Tool}-Plugin/Tool, um {Zweck/Aufgabe}, wenn {Zeitpunkt/Bedingung}.

                    

Beispiel: Soll der Agent DALL-E-3 aufrufen, um auf Basis des Hauptinhalts einer generierten Geschichte Zeichnungen im Cartoon-Stil zu erstellen, können Sie Folgendes schreiben:

                      
                      Verwende das `DALL-E-3`-Plugin, um Cartoons im Stil von Zeichnungen für die Schlüsselszenen der Geschichte zu generieren, wenn die gesamte Geschichte fertiggestellt ist.

                    

Speicher

Hier konfigurieren Sie die Speicherfunktionen, die der Agent während der Konversation nutzt.

• Kurzzeitgedächtnis: Legen Sie fest, wie viele der letzten Gesprächsrunden der Agent speichert. Eine Runde besteht aus einer Frage und einer Antwort.
• Langzeitgedächtnis: Hiermit merkt sich der Agent längere Gesprächsinhalte.
• Nutzerattribute: Damit werden Nutzerattribute im Speicher voreingestellt, sodass der Agent personalisierte Informationen nutzen und besseren Service bieten kann.

Ist die Speicherfunktion deaktiviert, erfolgt jede Unterhaltung ohne Kontext – jede Runde ist unabhängig.

Begrüßung & Anleitung

Hier legen Sie Begrüßungsnachricht und Benutzeranleitung für den Agenten fest.

• Begrüßung: Wenn Nutzer:innen den Agenten aufrufen, begrüßt dieser sie automatisch mit dieser Nachricht.
• Vorgeschlagene Fragen: Nach der Antwort schlägt der Agent automatisch drei Anschlussfragen zur weiteren Interaktion vor.

Eingabe

• Maximale Bildanzahl: Legen Sie fest, wie viele Bilder im Gespräch mit dem Agenten hochgeladen werden können.
• Bildqualität beim Hochladen: Je höher die Bildqualität, desto besser die Antwortqualität des MLLM.
• Spracheingabe: Aktivieren Sie die Spracheingabe, um gesprochene Eingaben in Text umzuwandeln und an den Agenten zu übermitteln.

Ausgabe

• Sprachausgabe: Aktivieren Sie die Umwandlung der Agenten-Antworten in Sprache.
• Stimme: Wählen Sie die Stimme für die Sprachausgabe.
• Klangqualität: Legen Sie die Qualität der Sprachausgabe fest.
• Textausgabesprache: Wählen Sie die Sprache für die Textausgabe des Agenten.

Debug

Hier interagieren Sie mit dem Agenten und erleben die Auswirkungen von Parameteranpassungen in Echtzeit.

Nutzen Sie die Gesprächsinhalte, um den Agenten weiter zu trainieren.