Alucinación de IA
Una alucinación de IA es contenido plausible pero falso o inventado. La fluidez del lenguaje no demuestra su exactitud.
Reconocer una afirmación sin respaldo como un fallo
Una alucinación de IA ocurre cuando un modelo presenta una afirmación falsa o inventada como información sobre el mundo real. Puede inventar una fuente o una característica del producto. La redacción puede seguir siendo convincente.
En un ejemplo ficticio, un asistente afirma que se puede recoger un producto el domingo. La regla facilitada permite recogerlo solo de lunes a viernes. Por eso se contrasta la afirmación con la regla actual, en lugar de deducir exactitud de su tono seguro.
Una historia ficticia expresamente solicitada es otra tarea. Una respuesta correcta según una regla antigua también puede ser un error de fuente, en vez de una invención libre. La corrección exige aclarar si faltan datos actuales, se recuperaron mal o se utilizaron mal.
Fuentes
Términos relacionados
- Modelo de lenguaje de gran tamañoUn gran modelo de lenguaje procesa lenguaje mediante patrones aprendidos. La fluidez no demuestra exactitud ni acceso a datos empresariales actuales.
- Evaluación de LLMLa evaluación de LLM comprueba resultados según tareas y criterios definidos. Un buen caso aislado no demuestra calidad general.
- Ficha de modeloUna ficha de modelo documenta el propósito, las bases, las condiciones de evaluación y los límites conocidos de una versión de un modelo de IA.
- Preparación para la IALa preparación para la IA contempla las bases de un proyecto: objetivo, datos utilizables, capacidades, responsabilidades y funcionamiento.
- Ingeniería de contextoLa ingeniería de contexto prepara la información de cada llamada al modelo: instrucciones, mensajes, fuentes y estados actuales pertinentes.
- Detección de anomalíasMétodos que señalan observaciones inusuales respecto a una referencia definida o un patrón aprendido.
Artículos sobre el tema
IA y automatización con ASES
Asistentes de IA y procesos automatizados