FlowAgent Canvas

Das FlowAgent Canvas ist das zentrale Feature zur Workflow-Orchestrierung. Über eine visuelle Bearbeitungsoberfläche lassen sich komplexe SOP-Prozesse in Unternehmen effizient in verschiedene Komponenten und Schritte unterteilen. So können LLMs sich spezialisieren und in Zusammenarbeit kontrolliertere sowie effizientere KI-Antworten liefern.

FlowAgent Canvas – visuelle Bearbeitungsoberfläche für Workflow-Orchestrierung

Verbindungsregeln

FlowAgent baut kollaborative Workflows zwischen verschiedenen Komponenten über Verbindungen auf und unterstützt dabei ein hybrides Orchestrierungsmodell aus serieller und paralleler Ausführung. Verbindungen zwischen Komponenten dienen dazu, nachgelagerte Komponenten zu triggern und Ausgabedaten vorgelagerter Komponenten weiterzugeben.

Die Aktivierung von Verbindungen in FlowAgent unterscheidet sich deutlich von der im Workflow. Workflow-Verbindungen dienen ausschließlich dazu, nachgelagerte Komponenten zu triggern.

Die Verbindungsregeln von FlowAgent im Überblick:

Im Flow müssen die „Input“- und „Output“-Module jeder Komponente, wie z. B. LLMs, Wissensabfrage, Klassifizierer, Bedingungsprüfung, If / Else und Karten-Nachrichten, mindestens eine Verbindung besitzen; andernfalls können sie nicht betrieben werden.
Das „Input“-Modul der Komponente Human Service muss mindestens eine Verbindung haben. Da es jedoch kein Output-Modul gibt, ist keine weitere Verbindung erforderlich.
Die Komponente Ende muss mindestens eine Verbindung haben. Da es jedoch kein Output-Modul gibt, ist keine weitere Verbindung erforderlich.

Regeln zur Datenübertragung zwischen Komponenten

Die Regeln für die Datenübertragung zwischen FlowAgent-Komponenten unterscheiden sich je nach Typ. GPTBots unterteilt die Datenübertragung in folgende drei Typen:

Generierung: Erstellt ein neues Antwortergebnis basierend auf dem Input der Vorgängerkomponente und der Komponentenkonfiguration.
Durchleitung: Gibt die Eingabedaten der Vorgängerkomponente vollständig und ohne Verarbeitung an die nachfolgende Komponente weiter.
Spezielle Durchleitung: Gibt neben den vollständigen Eingabedaten der Vorgängerkomponente auch die von der Komponente generierten Antwortergebnisse weiter.

Komponentenname	Datenübertragungstyp	Beschreibung der Datenübertragung
LLMs	Generierung	Erzeugt Antwortergebnisse durch Aufruf des LLM-Modells basierend auf dem Input der Vorgängerkomponente und der Komponentenkonfiguration.
Klassifizierer	Generierung	Zerlegt und extrahiert auf Basis von Verzweigungsbedingungen die Eingabedaten der Vorgängerkomponente und gibt diese an verschiedene nachfolgende Komponenten weiter. Der Klassifizierer kann einen oder mehrere Zweige triggern.
Bedingungsprüfung	Durchleitung	Gibt die Eingabedaten der Vorgängerkomponente vollständig und ohne Verarbeitung an die nachfolgende Komponente weiter.
If / Else	Durchleitung	Gibt die Eingabedaten der Vorgängerkomponente vollständig und ohne Verarbeitung an die nachfolgende Komponente weiter.
Wissensabfrage	Spezielle Durchleitung	Gibt neben den vollständigen Eingabedaten der Vorgängerkomponente auch die abgerufenen Ergebnisdaten an die nachfolgende Komponente weiter.
Human Service	Durchleitung	Gibt nach dem Triggern die Eingabedaten der Vorgängerkomponente an ein externes Human-Service-System weiter.
Karten-Nachricht	Generierung	Unabhängig vom Output der Vorgängerkomponente werden nur die Konfigurationsdaten der Komponente an die nachfolgende Komponente weitergegeben.

FlowAgent-Orchestrierung

Jeder FlowAgent besteht aus einem Start, einem Ende und mehreren Komponenten. Nutzernachrichten gelangen über Start in den Agenten, werden von mehreren Komponenten verarbeitet und über Ende als Antwort an die Nutzer:innen zurückgegeben.

FlowAgent Orchestrierung – Start, Komponenten, Ende

Komponenten hinzufügen

Über das linke Komponentenmenü können Sie per Drag-and-drop beliebige Komponenten auf das Canvas ziehen. Alternativ können Sie mit dem Button „+Node hinzufügen“ Komponenten ergänzen oder durch Klick auf die Verbindungslinie in der Mitte neue Komponenten einfügen.

Komponenten per Drag-and-drop hinzufügen

Komponenten verbinden

Halten Sie die linke Maustaste gedrückt und ziehen Sie eine Linie, um Komponenten miteinander zu verbinden und so einen Workflow zu erstellen.

Komponenten verbinden im FlowAgent Canvas

Einstellungen

Klicken Sie auf die Komponentenkachel, um das Einstellungsfenster dieser Komponente zu öffnen und spezifische Verarbeitungsparameter festzulegen.

Komponenteneinstellungen im FlowAgent Canvas

Debugging-Vorschau

Klicken Sie auf den Button „Konversations-Debugging“, um das Dialogeingabefeld auf der rechten Seite einzublenden. Nach dem Absenden einer Nachricht können Sie den FlowAgent ausführen und den Datenfluss auf dem Canvas von Input, Triggern der Komponenten bis Output beobachten.

Konversations-Debugging im FlowAgent Canvas

Konversations-Debugging
Klicken Sie auf den Button „Konversations-Debugging“ oben rechts, um das Dialogfenster im Flow-Bearbeitungsfenster zu öffnen. Nach Eingabe und Absenden einer Nachricht können Sie den FlowAgent ausführen.
Komponentendetails
Nach erfolgreichem Durchlauf des FlowAgent können Sie auf den Button „Details“ der erfolgreich ausgeführten Komponente klicken, um die Input-/Output-Detaildaten dieser Komponente einzusehen.
Node-Debugging
Klicken Sie auf den Button „Node-Debugging“ oben rechts, um das Node-Debugging-Fenster im Flow-Bearbeitungsfenster zu öffnen. Nach Auswahl der Zielkomponente können Sie gezielt einzelne Komponenten debuggen.

Tipp: Nutzen Sie das FlowAgent Canvas, um Ihre Workflows flexibel zu gestalten und die Zusammenarbeit Ihrer KI-Komponenten optimal zu orchestrieren.