En 2015, un ingeniero de software determinó que Google Photos percibía a sus amigos negros como “gorilas” y Google prometió resolver este problema. Pero después de 3 años, todo lo que Google ha hecho es eliminar algunas razas de primates de la categoría de detección de imágenes.
El ingeniero de software Jacky Alcine declaró en 2015 que el algoritmo de detección de imágenes en Google Photos detectó a los amigos negros como ‘gorilas’, y Google se disculpó por este error y prometió solucionar el problema. Sin embargo, según un nuevo informe publicado en Wired, incluso después de tres años, Google aún no ha encontrado una solución real. Lo único que hace la empresa es evitar que los algoritmos de detección de imágenes definan gorila. Se piensa que la razón de esto es la idea de que sería más apropiado restringir el servicio solo para no causar otra clasificación errónea.
Miles de imágenes de diferentes primates se cargaron en el servicio en algunas pruebas que Wired hizo con el algoritmo de Google Photos. Los babuinos, los gibones y los titíes se identificaron correctamente, mientras que los gorilas y los chimpancés no. Wired también descubrió que Google también está restringiendo su algoritmo de inteligencia artificial en otras categorías racistas. Por ejemplo, las búsquedas de “hombres negros” o “mujeres negras” enumeran imágenes de personas vestidas de blanco y negro, no de raza.
Un portavoz de Google confirmó que las categorías de gorilas, chimpancés y monos fueron bloqueadas de las categorías de imágenes después del tuit de Alcine en 2015. El portavoz dijo: “La tecnología de etiquetado de imágenes todavía está en su mejor momento. Desafortunadamente, todavía tiene tiempo para madurar”. Sin embargo, estas categorías todavía se utilizan en otros servicios de Google, como la API de Cloud Vision y el Asistente de Google, que se venden a otras empresas.
Fuente: https://www.theverge.com/2018/1/12/16882408/google-racist-gorillas-photo-recognition-algorithm-ai
