Modelo de lenguaje de gran tamaño
Un gran modelo de lenguaje procesa lenguaje mediante patrones aprendidos. La fluidez no demuestra exactitud ni acceso a datos empresariales actuales.
Trabajar con un modelo de lenguaje de gran tamaño
Un modelo de lenguaje de gran tamaño, o LLM, utiliza patrones aprendidos de amplios datos de entrenamiento para procesar lenguaje y generar texto. Sus entradas y salidas se procesan en unidades llamadas tokens. La palabra «gran» no demuestra su idoneidad para su empresa.
En un ejemplo ficticio, un LLM redacta una respuesta a una consulta de entrega. La fecha indicada debe respaldarse con una fuente actual adecuada. Una frase convincente no proporciona al modelo acceso al estado real del pedido.
El modelo tampoco es el asistente completo. La aplicación que lo rodea determina el acceso a documentos, los permisos y las acciones disponibles. Por tanto, una comparación debe considerar esas conexiones y el comportamiento ante información ausente, además de la calidad del texto.
Fuentes
Términos relacionados
- Token en modelos de lenguajeLos tokens son unidades de procesamiento de modelos de lenguaje. No equivalen siempre a palabras completas y se distinguen de los tokens de diseño.
- Ventana de contextoLa ventana de contexto limita los tokens que un modelo de lenguaje puede considerar en un paso. No es un archivo permanente de conocimientos.
- Alucinación de IAUna alucinación de IA es contenido plausible pero falso o inventado. La fluidez del lenguaje no demuestra su exactitud.
- Ficha de modeloUna ficha de modelo documenta el propósito, las bases, las condiciones de evaluación y los límites conocidos de una versión de un modelo de IA.
- Preparación para la IALa preparación para la IA contempla las bases de un proyecto: objetivo, datos utilizables, capacidades, responsabilidades y funcionamiento.
- Ingeniería de contextoLa ingeniería de contexto prepara la información de cada llamada al modelo: instrucciones, mensajes, fuentes y estados actuales pertinentes.
Artículos sobre el tema
IA y automatización con ASES
Asistentes de IA y procesos automatizados