Sicherheitsmechanismus

GPTBots-Agenten unterstützen die folgenden zwei Sicherheitsmechanismen, um Compliance sicherzustellen und die Privatsphäre der Nutzer:innen zu schützen.

Moderation

Die Moderation führt eine mehrdimensionale Inhaltsprüfung sowohl bei Nutzereingaben als auch bei den von Agenten generierten Ausgaben durch. Dazu gehören unter anderem die Erkennung von Gewalt, sexuell expliziten Inhalten, politisch sensiblen Themen und anderen schädlichen Inhalten.

Aktuell wird die Moderation für Text- und Bildinhalte unterstützt; andere Medientypen werden derzeit noch nicht unterstützt.

Wenn eine Nutzereingabe die Inhaltsmoderation nicht besteht, wird sie nicht an den Agenten übermittelt. Ebenso wird eine Agenten-Ausgabe, die die Moderation nicht besteht, nicht an die Nutzer:innen ausgegeben.

Aktivieren/Deaktivieren

Im Bereich „Sicherheitsmechanismen“ auf der Konfigurationsseite des Agenten können Sie die Moderationsfunktion aktivieren oder deaktivieren.

Konfiguration

• Service: Wählen Sie den zu verwendenden Inhaltsmoderationsdienst aus. Derzeit unterstützte Optionen sind OpenAI Moderation, Keyword und Custom API Extension.
• Keywords: Nur erforderlich, wenn Keyword als Service ausgewählt ist. Hier können Sie eine Liste von Schlüsselwörtern definieren, die während der Moderation erkannt werden sollen.
• Moderation: Wählen Sie, ob INPUT (vom Nutzer eingereichte Inhalte), OUTPUT (vom Agenten generierte Inhalte) oder beides moderiert werden soll.
  • Typ: Wählen Sie den Inhaltstyp, der moderiert werden soll. Aktuell werden Text und Bild unterstützt.
  • Vordefinierte Antwort: Die Antwort, die der Agent an die Nutzer:innen zurückgibt, wenn der Inhalt die Moderation nicht besteht.

Datenanonymisierung

Nutzereingaben werden anonymisiert, um alle personenbezogenen Daten (PII) zu entfernen, bevor sie an den Agenten übermittelt werden. Nachdem der Agent eine Antwort generiert hat, werden die ursprünglichen personenbezogenen Daten in der Ausgabe wiederhergestellt.

Dieses Vorgehen stellt sicher, dass Anbieter großer Sprachmodelle keinen Zugriff auf persönliche Informationen der Nutzer:innen erhalten, während der Agent dennoch voll funktionsfähig bleibt.

Nutzer:innen können festlegen und auswählen, welche Arten von personenbezogenen Daten anonymisiert werden sollen.

Aktivieren/Deaktivieren

Im Bereich „Sicherheitsmechanismen“ auf der Konfigurationsseite des Agenten können Sie die Datenanonymisierung aktivieren oder deaktivieren.

Konfiguration

• Methode: Aktuell wird ausschließlich die Ersetzung unterstützt. Erkannte Entitäten werden durch Platzhalter-Tags ersetzt. Zum Beispiel wird John Doe durch <PERSON_1> ersetzt.
• Entitätsgruppen: Wählen Sie die Entitätsgruppen aus, die anonymisiert werden sollen. Erkennt das System Entitäten aus den ausgewählten Gruppen, werden diese entsprechend anonymisiert.