Hace unos meses, Twitter abandonó su software de recorte de fotos impulsado por inteligencia artificial después de que se descubrió que tenía algunos prejuicios raciales bastante importantes incorporados. Desde entonces, la compañía ha estado organizando una competencia de recompensas por errores en la que los usuarios pueden intentar obtener más información sobre el sesgo interno de la IA.
Se han presentado los resultados de la competencia y parecen confirmar hallazgos anteriores de prejuicio racial. Pero el sesgo racial no es el único tipo de sesgo que encuentran los usuarios durante la competencia. Los investigadores también encontraron varias otras áreas en las que la inteligencia artificial de Twitter preferiría una cosa a otra.
La entrada en primer lugar de la competencia descubrió que el algoritmo de recorte de fotos de Twitter no solo tenía prejuicios raciales, sino que también tiende a preferir imágenes de personas más jóvenes y delgadas que calificamos en la sociedad como hermosas. Otra entrada encontró que el software prefería las letras en inglés sobre el árabe.
Ciertamente, estos son algunos hallazgos bastante impactantes. Los sesgos sociales como este han existido durante un tiempo, pero es algo desalentador verlos replicados en el software de inteligencia artificial que la mayoría de nosotros usamos a diario. Pero este programa y la competencia traen consigo una pequeña esperanza de que podría haber una solución.
La competencia en sí fue una estrategia maravillosa de Twitter. La capacidad de identificar un problema y llamar a usuarios externos para ayudar a revelar otros problemas potenciales parece un gran enfoque.
La inteligencia artificial de la compañía tiene serias fallas, pero al organizar esta competencia, Twitter ha demostrado que se dedica a identificar y corregir cualquier sesgo en su sistema.
¿Tienes alguna idea sobre esto? Háganos saber más abajo en los comentarios o lleve la discusión a nuestro Twitter o Facebook.
