Ingeniería de contexto
La ingeniería de contexto prepara la información de cada llamada al modelo: instrucciones, mensajes, fuentes y estados actuales pertinentes.
Preparar el contexto de trabajo de una llamada al modelo
La ingeniería de contexto consiste en seleccionar y preparar de forma deliberada la información que recibe un modelo de lenguaje en una llamada. Puede incluir instrucciones, partes pertinentes de la conversación, documentos encontrados y resultados de herramientas ya ejecutadas. Además de la redacción, importan la selección, la actualización y el resumen de la información. Una ventana de contexto limitada exige prioridades. La información almacenada de forma persistente no llega automáticamente al modelo en cada llamada; las descripciones de las herramientas disponibles tampoco conceden permisos de ejecución adicionales.
En un caso de servicio ficticio, un cliente pregunta cómo recuperará su aparato reparado. Un resumen antiguo de la conversación indica recogida, mientras que el último estado confirmado del caso recoge un envío acordado posteriormente. Para responder, la aplicación debería proporcionar el estado actual con su procedencia e indicar que la preferencia anterior fue sustituida. Se comprobaría si el modelo transmite correctamente la forma de devolución acordada. Aportar más texto por sí solo no resuelve la contradicción. Explicar el envío acordado no crea por sí mismo una orden de expedición.
Fuentes
Términos relacionados
- PromptUn prompt es la entrada de un modelo generativo. Definir bien la tarea ayuda, pero no sustituye las conexiones de datos ni los permisos.
- Ingeniería de promptsDiseñar y comprobar tareas, contexto y reglas de salida para un modelo generativo.
- Ventana de contextoLa ventana de contexto limita los tokens que un modelo de lenguaje puede considerar en un paso. No es un archivo permanente de conocimientos.
- Generación aumentada por recuperaciónRAG combina la recuperación de información con respuestas generadas. Acceder a fuentes no sustituye un diseño cuidadoso de la calidad y los permisos.
- Llamada a funcionesUn modelo de lenguaje solicita una función descrita con parámetros estructurados; la aplicación conectada la ejecuta.
- Ficha de modeloUna ficha de modelo documenta el propósito, las bases, las condiciones de evaluación y los límites conocidos de una versión de un modelo de IA.
Artículos sobre el tema
IA y automatización con ASES
Asistentes de IA y procesos automatizados