La semana pasada en nuestra participación en el pasado Big Data Value Forum que tuvo lugar en Helsinki presentamos dos interesantes temas sobre los que estamos trabajando.

Por un lado hablamos de nuestro Icarus como simulador dinámico para la generación de Gemelos Digitales / Digital Twins que tan de moda están. Curiosamente sin embargo el tema que mas interesó fue uno sobre «sesgo» en algoritmos de Machine Learning con el que ganamos el segundo premio en el LUCA Challenge organizado por Telefónica.

En Europa defienden que a diferencia de USA que miran la IA como medio para ganar dinero o China que la quiere para tener controlados a sus ciudadanos, aquí nuestro objetivo debe ser llegar a conseguir una sociedad más justa intentando minimizar la brecha de género entre otras.

Esto no significa que fuera de Europa no interese este tema. Por ejemplo, en el KAIST coreano acaban de publicar los resultados de un interesante proyecto para cuantificar de forma automática, mediante tratamiento de imágenes, el grado de sesgo de género en las películas.

Esto permite que el sistema evalúe de manera más precisa y práctica el grado en que los personajes femeninos y masculinos se representan de manera discriminatoria en una película en términos cuantitativos, y además permite revelar el sesgo de género que los métodos de análisis convencionales (como por ejemplo el Test de Bechdel aún no pueden detectar.

Los investigadores coreanos analizaron 40 películas de Hollywood y Corea del Sur lanzadas entre 2017 y 2018.

Redujeron las muestras de 24 a 3 cuadros por segundo, y utilizaron la tecnología de reconocimiento facial Face API de Microsoft y la tecnología de detección de objetos YOLO9000 para verificar los detalles de los personajes y sus objetos circundantes en las escenas.

Usando el nuevo sistema, el equipo calculó ocho índices cuantitativos que describen la representación de un género en particular en las películas. Ellos son: diversidad emocional, estática espacial, ocupación espacial, ocupación temporal, edad media, imagen intelectual, énfasis en la apariencia y tipo y frecuencia de los objetos circundantes.

Según el índice de diversidad emocional, se descubrió que las mujeres representadas eran más propensas a expresar emociones pasivas, como tristeza, miedo y sorpresa.

En contraste, los personajes masculinos en las mismas películas tenían más probabilidades de demostrar emociones activas, como la ira y el odio.

El índice de tipo y frecuencia de objetos circundantes reveló que los personajes femeninos y los automóviles se rastrearon juntos solo un 55.7% tanto como los personajes masculinos, mientras que tenían más probabilidades de aparecer con muebles y en un hogar, con una probabilidad del 123.9%.

En los casos de ocupación temporal y edad media, los personajes femeninos aparecieron con menos frecuencia en las películas que los hombres a una tasa del 56%, y en promedio eran más jóvenes en el 79,1% de los casos.

Estos dos índices fueron especialmente llamativos en las películas coreanas!