En Pamplona, el 6 de enero, se han revelado avances significativos en el ámbito de la inteligencia artificial, gracias a la investigación de Iris Domínguez Catena, una joven académica nacida en 1992 y vinculada al Instituto de Smart Cities (ISC) de la Universidad Pública de Navarra (UPNA). Su trabajo se centra en la creación de nuevas metodologías y herramientas diseñadas para identificar y corregir los sesgos demográficos presentes en los sistemas de inteligencia artificial.

Uno de los hallazgos más impactantes de Domínguez es la identificación de un tipo específico de sesgo demográfico: el sesgo estereotípico. Este fenómeno ocurre cuando se establece una conexión inapropiada entre distintos grupos demográficos y las categorías en las que se clasifican en un contexto de inteligencia artificial. Por ejemplo, Domínguez señala que en los sistemas de reconocimiento de emociones faciales, se observa que las mujeres son retratadas a menudo como más felices, mientras que los hombres son más frecuentemente representados como enojados. Esta distorsión no solo perpetúa estereotipos dañinos, sino que también impacta de manera negativa en el comportamiento final de los modelos de IA, los cuales son entrenados utilizando conjuntos de datos que ya contienen sesgos inherentes.

Domínguez enfatiza que simplemente garantizar una representación equilibrada de diferentes grupos demográficos no es suficiente. Es fundamental examinar y remediar los sesgos estereotípicos para que los sistemas de inteligencia artificial puedan ser realmente justos y equitativos. Este mensaje es clave en el contexto de su tesis doctoral, que aborda la problemática de los sesgos demográficos en el ámbito de la inteligencia artificial, un tema de creciente relevancia en un mundo cada vez más digitalizado.

La investigación de Iris destaca que estos sesgos no solo afectan a grupos históricamente marginados, como las personas afrodescendientes o las mujeres. También puede resultar en un trato discriminatorio hacia segmentos específicos de la población. Como bien señala, en función de características demográficas como la raza, el género o la edad, un modelo de inteligencia artificial puede llegar a tratar de forma desigual a los usuarios, lo que plantea serias preguntas sobre la ética en el uso de estas tecnologías.

Para ilustrar sus hallazgos, Domínguez eligió el campo del reconocimiento de expresiones faciales, conocido como FER (Facial Emotion Recognition), que busca predecir las emociones de una persona a partir de imágenes de sus rostros. Las aplicaciones de esta tecnología son variadas, abarcando desde contenidos multimedia interactivos hasta la medicina, la seguridad vial y la robótica asistencial.

En su investigación, Iris ha puesto especial énfasis en el origen de los sesgos en los conjuntos de datos que se utilizan para entrenar los modelos de inteligencia artificial. Ha identificado dos tipos de sesgos demográficos: el sesgo representacional, que ocurre cuando ciertos grupos están subrepresentados en los datos, y el sesgo estereotípico, que ya ha sido discutido anteriormente. Sorprendentemente, su investigación sugiere que el sesgo estereotípico, a pesar de ser menos examinado, tiene un impacto mucho más notable en el rendimiento final de estos modelos.

Ello es especialmente relevante en la era actual, donde la creación de conjuntos de datos a partir de imágenes disponibles en Internet tiende a reforzar los estereotipos existentes, a pesar de que estos 'datasets' puedan parecer más variados en un primer vistazo. Domínguez ha establecido también una relación entre la magnitud del sesgo introducido y la frecuencia de errores en los modelos, un descubrimiento crucial que desafía la noción de que la eliminación del sesgo necesariamente implica un descenso en el rendimiento. En ocasiones, los sistemas más justos pueden, de hecho, demostrar ser más precisos.

Para combatir estos problemas, Iris Domínguez ha diseñado una herramienta innovadora denominada DSAP (Demographic Similarity via Auxiliary Profiles). Esta metodología es capaz de comparar la demografía de distintos conjuntos de datos, incluso en ausencia de información explícita sobre la población. Sus aplicaciones son tres: comparación directa entre conjuntos, medición de sesgos al comparar 'datasets' reales con ideales, y detección de cambios demográficos en las poblaciones sobre las que operan sistemas de IA ya implementados.

Más allá de detectar sesgos, Iris también investigó cómo se transfieren estos sesgos a los modelos de inteligencia artificial, desarrollando métricas novedosas para medir cada tipo. Su enfoque multidimensional resalta la necesidad de considerar los distintos tipos de sesgos presentes en la IA. Proporcionando mecanismos prácticos para su detección y seguimiento, tanto en fases de desarrollo como de despliegue, se convierte en una pieza clave para el futuro del diseño de sistemas de inteligencia artificial más equitativos.

Iris Domínguez Catena ha culminado su trayectoria académica en la UPNA, donde previamente completó con éxito su grado y máster en Ingeniería Informática. Su investigación se centra en la equidad algorítmica, específicamente en la detección de sesgos sociales dentro de las bases de datos y modelos de visión artificial. Además, mediante una colaboración con la Universidad de Gante en Bélgica, se encuentra explorando ahora los sesgos en el procesamiento de lenguaje natural y los modelos de lenguaje.