Twitter había lanzado un concurso para detectar sesgos algorítmicos en su sistema de recorte de fotos. La empresa anunció los resultados del concurso.
Twitter deshabilitó la función de recorte automático de fotos en marzo después de que los usuarios sugirieran que la aplicación prefiere las caras blancas a las negras como resultado de una investigación realizada por los usuarios el año pasado. Luego lanzó una recompensa por errores algorítmicos para examinar el problema más de cerca.
PREFIERE personas de piel clara
Según la noticia en Shift Delete, los hallazgos obtenidos en la competencia confirmaron las afirmaciones. El competidor ganador descubrió que el algoritmo prefería los rostros de personas delgadas, jóvenes, de piel clara o cálida. Los concursantes del segundo y tercer lugar afirmaron que el sistema estaba sesgado contra las personas con cabello blanco o gris, se detectó discriminación por edad y se prefirió el inglés en lugar del texto árabe en las imágenes.
Durante la presentación de los resultados anunciados en la conferencia DEF CON 29, Rumman Chowdhury, gerente del equipo META de Twitter, elogió a los participantes por identificar y descubrir los efectos reales del sesgo algorítmico.
Chowdhury dice: “Cuando pensamos en el sesgo en nuestros modelos, solo uso la frase académico o empírico. “Creamos este filtro porque creemos que eso es lo que es hermoso, y eso da como resultado entrenar a nuestros modelos y generar ideas poco realistas sobre lo que significa ser atractivo”.
“TODOS LOS SISTEMAS TIENEN ESTE PREJUICIO”
Los resultados del concurso de Twitter revelan cómo funciona el sesgo social en los sistemas algorítmicos. También muestra cómo las empresas de tecnología pueden abordar estos problemas.
Patrick Hall, quien actuó como jurado en la competencia de la empresa, enfatizó que tales sesgos existen en todos los sistemas y que las empresas deben trabajar de manera proactiva para encontrarlos.
