LLM (modelos de lenguaje de gran tamaño)
El nodo Large Model (nodo de modelo grande) puede invocar los LLM para generar respuestas en función de los parámetros de entrada y los prompts. Normalmente se utiliza para tareas de generación de texto, como redacción publicitaria, resumen de texto, ampliación de artículos, etc.
Gracias a las capacidades de comprensión y generación del lenguaje de los LLM, el nodo Large Model puede gestionar tareas complejas descritas en lenguaje natural. Se pueden seleccionar distintos modelos en función de los requisitos de negocio y configurar los prompts para definir la persona del modelo y el estilo de respuesta. Para controlar con precisión la salida del modelo, se pueden ajustar los parámetros del nodo Large Model para definir la longitud del texto, la diversidad del contenido y otros atributos.
Configuración del nodo
Large Language Model (LLM): El modelo de lenguaje de gran tamaño que se invocará desde el nodo actual.
AI Creativity: Controla la diversidad del contenido generado. Los valores más altos incrementan la creatividad y la aleatoriedad de la respuesta del modelo.
Maximum Response: La longitud máxima de la respuesta del LLM, medida en tokens.
Identity Prompt: Define la identidad del LLM para la invocación actual. Normalmente incluye descripciones de su rol, tarea, habilidades, flujo de trabajo, restricciones, contexto y antecedentes, para orientar el comportamiento del modelo y el estilo de respuesta, asegurando la coherencia con la tarea prevista y el proceso de ejecución.
User Prompt: La pregunta o solicitud específica proporcionada por el usuario para dirigir la respuesta del modelo.
Memory: Si el flujo de trabajo actual está incorporado en un agente de IA, el historial de conversación del agente (es decir, la memoria) puede incluirse como parte del contexto para la invocación del LLM.
Tool: Herramientas necesarias para la invocación del LLM. Admite tanto herramientas personalizadas como herramientas abiertas.
Data Table: Tablas de datos que se consultan durante la invocación del LLM. Admite consultas entre tablas.
Salida del nodo
JSON: Define pares clave-valor personalizados para la estructura JSON deseada. El LLM generará los resultados conforme al formato JSON definido.
LLM Response: Genera directamente el contenido sin procesar generado por el LLM.