Modération

La modération de contenu désigne la vérification du contenu saisi par les utilisateurs et du contenu généré par les agents pour des éléments tels que la pornographie, la violence, etc., afin d'assurer la conformité et la sécurité du contenu, et de réduire les risques de conformité commerciale pour les clients.

Service

Actuellement, la modération OpenAI est prise en charge.

Configuration de la clé

Clé GPTBots : Cela permet aux utilisateurs d'utiliser directement le service de modération de contenu correspondant via la clé fournie par GPTBots. Il n'est pas nécessaire d'intégrer séparément OpenAI.
Ma clé : Les utilisateurs peuvent également utiliser leur propre clé OpenAI pour accéder au service de modération de contenu correspondant.

Extension API

Si vous souhaitez utiliser des services de modération de contenu d'autres fournisseurs, vous pouvez vous référer à la méthode d'extension API personnalisée ci-dessous pour l'intégration et l'expansion.

Développement d'API

Pour utiliser une API personnalisée pour la modération de contenu, l'API doit être développée conformément aux exigences suivantes :

Elle doit prendre en charge l'authentification Bearer.
Elle doit utiliser la méthode POST.

Le corps de la requête doit suivre la structure ci-dessous :

{ "point": "agent.moderation.input", "params": { "agent_id": "66dacfb60d3bb525b33e7b2b", "query": [ { "type": "text", "text": "...texte à classifier à insérer ici..." }, { "type": "image", "url": "https://example.com/image.png" } ] } }

                      
                      {
    "point": "agent.moderation.input",
    "params": {
        "agent_id": "66dacfb60d3bb525b33e7b2b",
        "query": [
            {
                "type": "text",
                "text": "...texte à classifier à insérer ici..."
            },
            {
                "type": "image",
                "url": "https://example.com/image.png"
            }
        ]
    }
}

Ce bloc de code dans la fenêtre flottante

Champ	Type	Description
point	String	Le point de terminaison de la modération. Pour la modération d'entrée, utilisez `agent.moderation.input`. Pour la modération de sortie, utilisez `agent.moderation.output`.
params	Objet	Ce paramètre est un objet contenant les détails de la demande de modération.
- agent_id	String	L'identifiant de l'agent à modérer.
- query	Array	Le contenu à modérer.
- - type	String	Le type de contenu : `text`, `image`.
- - text	String	Si le type est `text`, ce paramètre doit contenir le texte à modérer.
- - url	String	Si le type est `image`, ce paramètre doit contenir l'URL de l'image.

Le corps de la réponse doit suivre la structure ci-dessous :

{ "flagged": true, "preset_response": "Votre contenu enfreint notre politique d'utilisation." }

                      
                      {
    "flagged": true,
    "preset_response": "Votre contenu enfreint notre politique d'utilisation."
}

Ce bloc de code dans la fenêtre flottante

Champ	Type	Description
flagged	Bool	Indique le résultat de la modération, si le contenu a passé la vérification. `true` signifie non validé, et `false` signifie validé.
preset_response	String	Lorsque le résultat de la modération est non validé, ce texte sera utilisé pour répondre à l'utilisateur.

Ajouter une API

Cliquez sur "Nouvelle extension API".

Configurez les informations de l'API étendue dans le panneau, puis cliquez sur "Tester".

Si le test est concluant, cliquez sur "Enregistrer" et l'extension API prendra alors effet.