La inteligencia artificial desarrollada por Google a raíz de largos estudios puede ser engañada a la hora de definir frases que contengan discurso de odio.
Google afirmó que podía detectar el discurso de odio gracias a su inteligencia artificial recién introducida. Sin embargo, se dice que la inteligencia artificial, que no puede probarse a sí misma en las pruebas, puede ser fácilmente engañada con algunos errores tipográficos.
N. Asokan de la Universidad Aalto de Finlandia y sus colegas analizaron 7 sistemas diferentes desarrollados para identificar textos ofensivos. Para la inteligencia artificial de Google, se dijo que no se podían obtener resultados conmovedores. La prueba del sistema de IA, creada para identificar el discurso de odio en línea, no detecta el texto creado con algunas palabras inofensivas y errores tipográficos. Con estos resultados se empieza a romper la percepción de que los ciberdelitos se pueden prevenir con inteligencia artificial. Sin embargo, el hecho de que ahora se eluda fácilmente no significa que no se pueda cambiar en el futuro.
Google anunció recientemente que ha desarrollado un nuevo software para proteger a los niños de personas malintencionadas. Aunque la aplicación, que fue desarrollada para evitar que los niños sean vulnerables a estas personas, generó mucho revuelo, su confiabilidad comenzó a ser cuestionada. A medida que estallan los delitos de abuso contra los niños hoy, comenzamos a preguntarnos si es una buena idea perder la esperanza en esta inteligencia artificial que dará a los padres un suspiro de alivio.
Fuente: https://www.newscientist.com/article/2178965-googles-ai-hate-speech-detector-is-easily-fooled-by-a-few-typos/
