Mécanisme de sécurité

Les Agents GPTBots prennent en charge les deux mécanismes de sécurité suivants afin de garantir la conformité et de protéger la vie privée des utilisateurs.

Modération

La modération effectue un contrôle de contenu multidimensionnel à la fois sur les entrées des utilisateurs et sur les sorties générées par l'agent. Cela inclut, sans s'y limiter, la détection de la violence, du contenu sexuellement explicite, des sujets politiquement sensibles et d'autres contenus nuisibles.

Actuellement, la modération est disponible pour les contenus textuels et les images ; les autres types de contenus multimédias ne sont pas encore pris en charge.

Si l'entrée d'un utilisateur échoue au contrôle de modération, elle ne sera pas soumise à l'agent. De même, si la sortie de l'agent échoue à la modération, elle ne sera pas affichée à l'utilisateur.

Activer/Désactiver

Dans la section « Mécanismes de sécurité » de la page de configuration de l'agent, vous pouvez activer ou désactiver la fonction de modération.

Configurer

• Service : Sélectionnez le service de modération de contenu à utiliser. Les options actuellement prises en charge incluent OpenAI Moderation, Mot-clé et Extension API personnalisée.
• Mots-clés : Nécessaire uniquement si Mot-clé est sélectionné comme service. Vous pouvez définir une liste de mots-clés à signaler lors de la modération.
• Modération : Choisissez si vous souhaitez modérer l'ENTRÉE (contenu soumis par l'utilisateur), la SORTIE (contenu généré par l'agent) ou les deux.
  • Type : Sélectionnez le type de contenu à modérer. Actuellement, texte et image sont pris en charge.
  • Réponse prédéfinie : La réponse que l'agent retournera à l'utilisateur si le contenu échoue à la modération.

Anonymisation des données

L'entrée de l'utilisateur est anonymisée afin de supprimer toute information personnelle identifiable (PII) avant d'être soumise à l'agent. Après que l'agent a généré une réponse, les informations personnelles d'origine sont restaurées dans la sortie.

Cette approche garantit que les fournisseurs de grands modèles de langage n'ont pas accès aux informations personnelles des utilisateurs, tout en permettant à l'agent de fonctionner efficacement.

Les utilisateurs peuvent définir et sélectionner les types de PII à anonymiser.

Activer/Désactiver

Dans la section « Mécanismes de sécurité » de la page de configuration de l'agent, vous pouvez activer ou désactiver la fonction d'anonymisation des données.

Configurer

• Méthode : Actuellement, seule la méthode de remplacement est prise en charge. Les entités identifiées sont remplacées par des balises de substitution. Par exemple, John Doe serait remplacé par <PERSON_1>.
• Groupes d'entités : Sélectionnez les groupes d'entités à anonymiser. Lorsque le système détecte des entités appartenant aux groupes sélectionnés, elles seront anonymisées en conséquence.