En tuits con imágenes compartidas en Twitter, uno de los canales de redes sociales más activos del mundo; Si hay dos personas de piel blanca y una de piel oscura, el algoritmo resalta a la persona de piel blanca. Las opciones del algoritmo de Twitter, que clasifica las publicaciones visuales con sus características destacadas en la corriente, inflamaron la agenda de racismo en la plataforma.
Si eres un usuario estricto de Twitter, los tweets que contengan varias imágenes en forma de una pequeña galería Te has dado cuenta de lo que parece. En esta vista de galería, un máximo de 4 de las imágenes compartidas se organizan de manera reducida y el punto focal de las imágenes se coloca en las miniaturas.
Por ejemplo, si hay una persona en el extremo derecho de una foto de vista panorámica, Twitter le mostrará a la persona en el extremo derecho en la vista de la galería de miniaturas, no la vista en el medio. Al hacer clic se cargará la versión de tamaño completo de la foto. Si este proceso de automatización La inteligencia artificial de Twitter es responsable. La persona en la imagen, el texto, la cara sonriente se seleccionan y resaltan en la miniatura.
Sin embargo, la inteligencia artificial de Twitter inflamó el debate sobre el racismo con las decisiones que tomó. Intente abrir fotos en estas publicaciones que parecen perfectamente normales a primera vista:
La primera publicación presenta a los políticos estadounidenses Mitch McConnell y Barrack Obama. Una de estas personas es rubia y la otra es de piel oscura. Sin embargo, solo Mitch McConnell, de piel blanca, aparece en la vista de la galería de miniaturas, y cuando hacemos clic, vemos que Barrack Obama también está en la imagen. Además, en las últimas etapas del experimento, Obama y McConnell Aunque la ubicación cambia, el resultado no cambia.El algoritmo de Twitter persiste.
En la segunda publicación, se cambian los colores de la corbata, y aunque hay cambios en la miniatura, se sigue resaltando la foto de la persona blanca:
Cuando las imágenes se hacen negativas, es decir, cuando se invierten los colores, el resultado cambia:
Los algoritmos basados en el aprendizaje automático de Twitter están creados por humanos en la plataforma. analizando millones de acciones llega a esta conclusión. En otras palabras, toma decisiones sintetizando los comportamientos de intercambio exhibidos por las personas.
El analista de seguridad Utku Şen atribuye esta naturaleza escandalosa de Twitter al error más fundamental de las aplicaciones de inteligencia artificial:
Ya que los problemas éticos de las sociedades se reflejan en las redes sociales, en Twitter o cualquier otro medio, en cualquier estructura donde se desarrolle inteligencia artificial con apoyo de aprendizaje automático, y los materiales sean comportamientos humanos. cometer errores “humanoides” naturalmente aceptado.
Pero un Twitter como en los medios de nueva generación Este error debería estar en la parte superior de los problemas que la plataforma debería notar y prevenir. Por otro lado, Twitter puede eliminar esta situación con una actualización que hará en cualquier momento.
