Twitter ha decidido abandonar su software de recorte de imágenes después de que se descubrió que el software contenía un sesgo bastante significativo. Los usuarios descubrieron que el software tenía una tendencia a mostrar a personas blancas sobre personas negras en la vista previa de la imagen que se ve en un tweet.
En una publicación de blog en el sitio web del gigante de las redes sociales, Rumman Chowdhury, director de ingeniería de software del equipo META (ética, transparencia y responsabilidad del aprendizaje automático) de la compañía, publicó hallazgos del equipo que, de hecho, encontraron cierto sesgo en el software basado en sobre raza y género.
Estos hallazgos provienen de meses de investigación que se remontan a fines del año pasado, cuando los usuarios comenzaron a notar el problema. Un usuario en particular, @bascule, publicó un experimento que muestra el sesgo.
Agregaron una foto con Barack Obama y Mitch McConnell para ver en qué rostro se enfocaría el algoritmo de Twitter. Independientemente de la posición de las caras, el software siempre eligió la cara de Mitch McConnell, a menos que se invirtieran los colores.
Twitter respondió rápidamente, diciendo que las pruebas internas se realizaron antes del lanzamiento de la función, pero obviamente había más por hacer. Trabajando con varios terceros, la compañía realizó una investigación que finalmente encontró errores significativos en el software.
A partir de ahora, la empresa ha abandonado casi por completo este software. Twitter actualmente usa un modelo que muestra la imagen completa siempre que sea posible. Para las imágenes que son demasiado grandes, la aplicación las recortará en el centro hasta el tamaño máximo posible.
Como se mencionó anteriormente en la publicación del blog de la compañía, lo que realmente se aprendió aquí es que el aprendizaje automático no siempre es la respuesta. El hecho de que pueda, no significa necesariamente que deba hacerlo. Cuando se trata de cosas como imágenes en las redes sociales, un enfoque más práctico puede ser la mejor opción.
¿Tienes alguna idea sobre esto? Háganos saber más abajo en los comentarios o lleve la discusión a nuestro Twitter o Facebook.
