モデレーション

コンテンツモデレーションとは、ユーザーが入力したコンテンツやエージェントが生成したコンテンツをポルノグラフィー、暴力などの要素について審査し、コンテンツの健全性と安全性を確保し、クライアントのビジネスコンプライアンスリスクを軽減することを指します。

サービス

現在、OpenAI Moderationがサポートされています。

主要設定

GPTBots Key: これにより、ユーザーはGPTBotsが提供するKeyを通じて、対応するコンテンツモデレーションサービスを直接利用できます。ユーザーがOpenAIと別途統合する必要はありません。
My Key: ユーザーは自分のOpenAI Keyを使用して、対応するコンテンツモデレーションサービスにアクセスすることも可能です。

API拡張

他のプロバイダーのコンテンツモデレーションサービスを使用する必要がある場合は、以下のカスタムAPI拡張方法を参照して統合と拡張を行うことができます。

API開発

コンテンツモデレーション用のカスタムAPIを使用するには、以下の要件に従ってAPIを開発する必要があります：

Bearer認証をサポートする必要があります。
POSTメソッドを使用する必要があります。

リクエストボディは以下の構造に従う必要があります：

{ "point": "agent.moderation.input", "params": { "agent_id": "66dacfb60d3bb525b33e7b2b", "query": [ { "type": "text", "text": "...分類するテキストがここに入ります..." }, { "type": "image", "url": "https://example.com/image.png" } ] } }

                      
                      {
    "point": "agent.moderation.input",
    "params": {
        "agent_id": "66dacfb60d3bb525b33e7b2b",
        "query": [
            {
                "type": "text",
                "text": "...分類するテキストがここに入ります..."
            },
            {
                "type": "image",
                "url": "https://example.com/image.png"
            }
        ]
    }
}

このコードブロックをポップアップで表示

フィールド	型	説明
point	String	モデレーションエンドポイント。入力モデレーションには`agent.moderation.input`を使用します。出力モデレーションには`agent.moderation.output`を使用します。
params	Object	このパラメータはモデレーションリクエストの詳細を含むオブジェクトです。
- agent_id	String	モデレーション対象のエージェントのID。
- query	Array	モデレーション対象のコンテンツ。
- - type	String	コンテンツの種類：`text`、`image`。
- - text	String	タイプが`text`の場合、このパラメータにはテキストコンテンツが含まれます。
- - url	String	タイプが`image`の場合、このパラメータには画像のURLが含まれます。

レスポンスボディは以下の構造に従う必要があります：

{ "flagged": true, "preset_response": "あなたのコンテンツは利用規約に違反しています。" }

                      
                      {
    "flagged": true,
    "preset_response": "あなたのコンテンツは利用規約に違反しています。"
}

このコードブロックをポップアップで表示

フィールド	型	説明
flagged	Bool	モデレーション結果を示し、コンテンツが審査を通過したかどうかを表します。`true`は不合格、`false`は合格を意味します。
preset_response	String	コンテンツモデレーション結果が不合格の場合、このテキストがユーザーへの返信に使用されます。

API追加

「新しいAPI拡張」をクリックします。

拡張APIの情報をパネルに設定し、**「テスト」をクリックします。
テストが成功した場合、「保存」**をクリックすると、API拡張が有効になります。