Twitter está presentando detalles de su recompensa por sesgos mientras desafía al público a examinar su código y encontrar errores éticos en su algoritmo de recorte de imágenes. El concurso se produce cuando se descubrió hace un tiempo que el algoritmo podría tener un ligero sesgo contra las personas negras, algo que la compañía está tratando de erradicar probando vistas previas de imágenes sin recortar.
Twitter comenzó a usar el “recorte inteligente” en 2018, pero los usuarios afirman que tiende a favorecer a las personas de piel clara e incluso a las mujeres sobre los hombres. El algoritmo de relevancia utiliza el aprendizaje automático para recortar las imágenes de modo que las vistas previas en los tweets sigan teniendo un tamaño constante. Ahora, la empresa busca ayuda para encontrar el sesgo en su modelo de aprendizaje automático antes de que cause más “daños éticos no deseados”.
Para los codificadores que estén interesados, hay tres premios en efectivo que van desde USD $ 500 (~ RM 2112) a USD $ 3500 (~ RM 14,789) y dos premios especiales en efectivo por valor de USD $ 1000 (~ RM 4225) por innovación y generalización (siendo aplicable a más algoritmos). Los ganadores serán anunciados en el taller DEF CON AI Village el 8 de agosto y los ganadores presentarán sus hallazgos al público.
“En mayo, compartimos nuestro enfoque para identificar sesgos en nuestro algoritmo de prominencia (también conocido como nuestro algoritmo de recorte de imágenes), y pusimos nuestro código a disposición de otros para que reproduzcan nuestro trabajo”, escribió Twitter en una publicación de blog. “Queremos llevar este trabajo un paso más allá al invitar e incentivar a la comunidad para que ayude a identificar los daños potenciales de este algoritmo más allá de lo que nosotros mismos identificamos”.
Rumman Chowdhury, director del equipo de Responsabilidad, Transparencia y Ética del Aprendizaje Automático de Twitter, tuiteó que el motivo de la recompensa es porque “creemos que las personas deben ser recompensadas por identificar estos problemas, y no podemos resolver estos desafíos solos”. El concurso abrió para inscripciones el 30 de julio y solo se extenderá hasta el 6 de agosto.
(Fuente: Twitter)
