Mecanismo de seguridad

Los agentes de GPTBots admiten los dos mecanismos de seguridad siguientes para garantizar el cumplimiento y proteger la privacidad de los usuarios.

Moderación (Moderation)

La función Moderation aplica una moderación de contenido multidimensional tanto sobre las entradas del usuario como sobre las salidas generadas por el agente. Esto incluye, entre otros, la detección de violencia, material sexual explícito, temas políticamente sensibles y otros contenidos nocivos.

Actualmente, Moderation es compatible con contenido de texto e imagen; otros tipos multimedia aún no son compatibles.

Si la entrada de un usuario no supera la comprobación de moderación de contenido, no se enviará al agente. Del mismo modo, si la salida del agente no supera la moderación, no se mostrará al usuario.

Habilitar/deshabilitar

En la sección «Security Mechanisms» de la página de configuración del agente, se puede habilitar o deshabilitar la función de Moderation.

Configuración

• Servicio: Seleccionar el servicio de moderación de contenido que se va a utilizar. Las opciones compatibles actualmente incluyen OpenAI Moderation, Keyword y Custom API Extension.
• Palabras clave: obligatorio solo cuando se selecciona Keyword como servicio. Se puede definir una lista de palabras clave para que se marquen durante la moderación.
• Moderation: Elegir si se debe moderar INPUT (entrada), OUTPUT (salida) o ambos.
  • Tipo: Seleccionar el tipo de contenido que se va a moderar. Actualmente, se admiten text e image.
  • Respuesta predefinida: respuesta que el agente devolverá al usuario si el contenido no supera la moderación.

Anonimización de datos

La entrada del usuario se anonimiza para eliminar cualquier información de identificación personal (PII) antes de enviarla al agente. Después de que el agente genere una respuesta, la PII original se restaura en la salida.

Este enfoque garantiza que los proveedores de modelos de lenguaje de gran tamaño no tengan acceso a la información personal de los usuarios, a la vez que permite que el agente funcione de forma eficaz.

Los usuarios pueden definir y seleccionar qué tipos de PII deben anonimizarse.

Habilitar/deshabilitar

En la sección «Security Mechanisms» de la página de configuración del agente, se puede habilitar o deshabilitar la función de anonimización de datos.

Configuración

• Método: actualmente, solo se admite el método replacement (sustitución). Las entidades identificadas se sustituyen por etiquetas de marcador de posición. Por ejemplo, John Doe se sustituiría por <PERSON_1>.
• Grupos de entidades: seleccionar los grupos de entidades que se van a anonimizar. Cuando el sistema detecta entidades pertenecientes a los grupos seleccionados, se anonimizarán en consecuencia.