Sesgo de la IA
Distorsiones sistemáticas en sistemas de IA que pueden perjudicar a determinados casos o grupos de personas.
¿De dónde pueden surgir resultados desequilibrados?
El sesgo de la IA designa distorsiones sistemáticas en los datos, los modelos o su uso. Pueden hacer que determinados casos o grupos de personas reciban un trato peor. Entre las causas están la selección y el etiquetado de datos, el objetivo de aprendizaje o las prácticas existentes de la empresa. Esa distorsión no exige una intención de perjudicar. Un buen promedio puede ocultar errores frecuentes en una parte del uso previsto.
Un modelo ficticio para distribuir solicitudes de servicio se entrena sobre todo con mensajes del taller central. Allí se usan nombres oficiales de productos; las abreviaturas locales de otras sucursales apenas están representadas. Sus solicitudes podrían asignarse mal con mayor frecuencia. Para investigarlo, se etiquetan ejemplos de las sucursales afectadas según la misma regla operativa y se examinan por separado las asignaciones erróneas junto con los recuentos de casos. Así se estudia si deben mejorarse la selección, el etiquetado o el comportamiento del modelo. Más mensajes de entrenamiento solo ayudan si cubren realmente esa carencia.
Fuentes
Términos relacionados
- Aprendizaje automáticoLos modelos aprenden patrones de los datos y los aplican a nuevas entradas.
- Aprendizaje supervisadoUn método que utiliza entradas junto con sus valores o clases objetivo como ejemplos de entrenamiento.
- Datos de entrenamientoLos ejemplos a partir de los que un modelo aprende relaciones o parámetros durante el entrenamiento.
- Datos de prueba en aprendizaje automáticoDatos reservados para la evaluación final cuyos resultados no se utilizaron para seleccionar la variante evaluada.
- IA explicableEnfoques que hacen comprensibles los resultados o el funcionamiento de un sistema de IA para sus destinatarios.
- Matriz de confusiónUna tabla que compara clases de referencia con predicciones del modelo y cuenta asignaciones correctas e incorrectas.
Su proyecto con ASES
Descríbanos su proyecto. Le responderemos con una primera valoración.