El recorte de imágenes se inclinaría hacia las caras delgadas de tonos claros y con apariencia juvenil
Los resultados de un concurso revelaron que el algoritmo de imágenes de Twitter tiene una extraña fascinación por las caras delgadas, jóvenes y de tonos claros.
Hace unos días Twitter anunció un concurso para que programadores de todo el mundo hallaran errores en su algoritmo de recorte de imágenes y los resultados fueron bastante contundentes.
El algoritmo en cuestión fue lanzado en el año 2018 para hacer un recorte inteligente que destacara las áreas relevantes de una imagen que no pudiera mostrarse de forma completa en la previsualización que aparece usualmente en los muros de los usuarios. Sin embargo, desde su lanzamiento probó ser un instrumento bastante controversial.
Varios usuarios de la plataforma se quejaron de que tal algoritmo de recorte de imágenes favorecía a las personas de tonos de piel claros por encima de aquellas que tuvieran una piel más oscura y ofrecieron varios ejemplos demostrando el sesgo de esa inteligencia artificial. Al respecto, Twitter prometió hallar todos los problemas con el algoritmo y desde el pasado mes de marzo desactivaron el algoritmo.
Con el objetivo de comprender por qué sucedían los sesgos en el recorte de imágenes y también para descubrir otros posibles errores que se estuvieran escondiendo, Twitter lanzó un concurso para que hackers de todo el mundo pusieran a prueba sus habilidades y encontraran qué podría estar mal con el algoritmo apoyado por inteligencia artificial.
La conclusión de tal concurso fue revelada en la conferencia DEF CON 29, donde Rumman Chowdhury, director del equipo META de Twitter (que estudia la ética, la transparencia y la responsabilidad del aprendizaje automático), elogió a los participantes por mostrar los efectos en la vida real del sesgo algorítmico.
El primer lugar lo consiguió un estudiante de posgrado en EPFL (una universidad de investigación en Suiza), llamado Bogdan Kulynych, quien además recibió el premio mayor de 3,500 dólares por su descubrimiento. Su resultado demostró que el algoritmo de recorte de Twitter favorece las caras que son “delgadas, jóvenes, de color de piel claro o cálido y textura de piel suave, y con rasgos faciales estereotípicamente femeninos”.
Para dar con este descubrimiento, Kulynych utilizó un programa de inteligencia artificial llamado StyleGAN2 con el objetivo de generar una gran cantidad de rostros realistas divididos según el color de la piel, los rasgos faciales femeninos en comparación a masculinos y la delgadez. Luego, puso a prueba el algoritmo de Twitter con mosaicos de las imágenes artificiales para reconocer las tendencias del recorte automatizado.
Al respecto, el estudiante explicó en sus conclusiones que lo que está haciendo en realidad la inteligencia artificial detrás del algoritmo es una amplificación de los sesgos ya existentes en la sociedad y que así es como literalmente recorta a “aquellos que no cumplen con las preferencias del algoritmo de peso corporal, edad, color de piel”.
Estos resultados demostrarían también una tendencia del algoritmo por favorecer las caras que hayan sido editadas automáticamente por filtros de belleza como los que se pueden encontrar en Instagram o TikTok, por lo que tendrían un favorecimiento artificial del cual podrían aprovecharse aquellos que quisieran acaparar el recorte automatizado.
Además de lo descubierto por Kulynych, el segundo y tercer lugar de la competencia revelaron también otros datos bastante relevantes. Por un lado, el participante que se quedó con el segundo puesto, Vincenzo di Cicco, dio a conocer que el sesgo del algoritmo no se limita a las caras reales, pues la inclinación hacia tonos más claros también se dio usando emojis como objetos de prueba y se obtuvieron resultados bastante similares a los ya expuestos.
Por otra parte, el tercer lugar de la competencia, Roya Pakzad, fundadora de la organización de defensa tecnológica Taraaz, encontró un descubrimiento bastante particular con el mismo algoritmo. Al parecer, los prejuicios encontrados en las fotos e imágenes humanoides también se podrían hallar con contenido escrito, pues se encontró que al comparar los memes usando escritura en inglés y árabe, el algoritmo recortaba regularmente la imagen para resaltar el texto en inglés principalmente.
Por ahora Twitter analizará los resultados del concurso para encontrar cómo resolver los errores que se dieron a conocer y así reparar el algoritmo antes de volver a lanzarlo oficialmente si demuestra ser lo suficientemente útil y eficaz.
