Resuelva predicciones poco equilibradas y procesos de toma de decisiones sesgados con resultados precisos de modelos de aprendizaje automático

Un modelo que adolece de sobreajuste se desempeña muy bien con los datos de entrenamiento, pero sus predicciones con datos del mundo real no son precisas. Por lo general, esto sucede en modelos muy complejos o de nicho que no logran comprender el “ruido” que muy probablemente proceda de los datos del mundo real. Como resultado, el modelo tiene dificultades para crear generalizaciones con datos nuevos.

En muchos casos, no hay una cantidad suficiente de “datos nuevos” para entrenar a los modelos de IA. Los grandes modelos de lenguaje (LLM), entre otros, necesitan cantidades enormes de datos de entrenamiento y los intentos de recopilación de datos no siempre pueden seguirle el ritmo a los rápidos cambios sociales, políticos y económicos que se observan mes a mes.

Se da cuando las creencias preexistentes influyen los sistemas de IA. Si el desarrollador de un modelo inconscientemente ignora los datos que no coinciden con sus percepciones, es probable que el modelo no sea capaz de encontrar patrones nuevos y, en cambio, refuerce las creencias preexistentes.

Se presenta cuando los sistemas informáticos generan resultados sesgados que son discriminatorios o injustos.

Sucede cuando los datos utilizados en el entrenamiento de un sistema de IA no son representativos de la intención verdadera de la aplicación. Por ejemplo, generar un modelo de IA para aprobaciones de préstamos automotrices recolectando únicamente datos del 1 % superior de las personas asalariadas. Los datos deben ser tan diversos como la población, no un subconjunto.

Este tipo de sesgo se presenta cuando los grupos de anotación introducen de forma inconsciente sus propios prejuicios en los datos etiquetados y, como consecuencia, varios grupos quedan discriminados.

Cuando no se incluyen de manera sistemática determinados grupos de características de los datos que se utilizan en el entrenamiento de un modelo de IA (p ej., un LLM que excluye determinados idiomas) aparece este tipo de sesgo.

Sucede si el contexto en el cual se recopilan los datos es diferente del contexto en el cual se aplica el modelo. Por ejemplo, si una compañía de IA del Reino Unido desarrolla y entrena un modelo para el mercado de los Estados Unidos en inglés británico y usa esa terminología como conjunto de datos para el entrenamiento. En este caso, es posible que la jerga, la terminología y las diferencias regionales estadounidenses no se tengan en cuenta.

Este tipo común de sesgo se presenta cuando se agrupan individuos en función de algunas características que llevan a la creación de un estereotipo (p. ej., la generalización de los datos por edad, raza, ingreso, ubicación, etc.).