安全机制

GPTBots 智能体支持以下两种安全机制，以保障智能体的合规性，及保护用户隐私。

内容审查

同时对智能体的用户输入内容与智能体生成内容进行多维度的审查，包括但不限于暴力、色情、政治敏感、有害内容等。

当前支持对文本和图像内容进行审查，暂不支持其他多媒体类型。

当用户输入的内容不通过内容审查时，该内容将不会被提交给智能体。同理，当智能体生成的内容不通过内容审查时，该内容将不会被展示给用户。

启用/禁用

在智能体配置页的“安全机制”模块，可以启用或禁用内容审查功能。

配置

• 服务：选择内容审查的服务。当前支持“OpenAI Moderation”、“关键词”及“自定义 API 扩展”。
• 关键词：仅“服务”选择“关键词”时需要配置。您可以通过
• 审查输入/输出信息：您可以选择仅审查输入（即用户输入的内容）或输出（即智能体生成的内容）的内容，也可以都审查。
  • 类型：选择审查的内容类型，当前支持文本和图片。
  • 预设响应：当内容不通过审查时，智能体将使用这句话返回给用户。

数据匿名化

对用户输入的内容中的个人身份信息（PII）进行匿名化处理后，在将内容提交给智能体。在智能体生成出内容后，再将内容中的信息进行还原。

此举能够保证大语言模型供应商无法获取用户的个人身份信息的同时，也能正常地解决问题。

支持用户定义和选择需要进行匿名化的个人身份信息。

启用/禁用

在智能体配置页的“安全机制”模块，可以启用或禁用数据匿名化功能。

配置

• 方法：当前仅支持“替换”方法，即将识别出来的实体内容，替换为一个标签，如：John Doe→<PERSON_1>。
• 实体分组：选择需要执行匿名化的实体分组，当系统识别到对应分组内的实体时，就会将之执行匿名化。