Por alguna razón desconocida, Intel, la compañía conocida como uno de los mayores productores de chips de computadora en el mundo, ha presentado una nueva IA llamada Bleep en su GDC 2021 Showcase, completa con controles deslizantes y conmutadores para intentar monitorear y bloquear ciertos niveles de incitación al odio en los chats de juegos en línea. Nadie sabe por qué la compañía de chips de computadora sintió que necesitaban irrumpir en esta industria.
Entonces, analicemos esto un poco. Intel ha logrado convertirse en uno de los principales productores de chips de computadora del mundo, con su nombre en PC y laptops en todas partes. Por alguna razón, la compañía ha decidido que su experiencia en el campo de los chips de computadora los ha llevado a desarrollar Bleep, una IA que tiene como objetivo poner fin a uno de los hechos conocidos de todos los tiempos sobre Internet: algunas personas son simplemente idiotas.
Permítanme cambiar de marcha un poco aquí diciendo que no creo que Intel esté completamente equivocado aquí. Me gusta la idea de que una empresa dé un paso al frente y diga que no tolera este tipo de cosas y que está buscando hacer algo al respecto. Pero Bleep no me parece la respuesta correcta.
El principal problema aquí es bastante obvio. La interfaz de usuario de la IA está llena de controles deslizantes y conmutadores que se pueden configurar para permitir que ciertas cantidades de discurso de odio eludan los bloqueadores del sistema. Todo esto me parece un poco indignante. Hay controles deslizantes para cosas como “Racismo y xenofobia” y “LGBTQ + odio”. Me parece que algo como esto debería estar orientado a bloquear completamente el discurso de odio y no permitir que los usuarios decidan qué discurso de odio tolerar.
A nivel superficial, estas cosas son excelentes para tener en cuenta cuando se busca bloquear el discurso de odio. Pero con Bleep, hay controles deslizantes que un usuario puede usar para permitir que algunos o incluso todos los discursos de odio en un área determinada pasen sin daño. Tal vez sea solo yo, pero parece que el discurso de odio es solo un discurso de odio.
La conclusión para mí es que la gente es idiota y el discurso de odio es discurso de odio. El problema con una IA como esta es que solo se puede programar para reconocer ciertas palabras o frases como negativas. Un sistema como este nunca podrá llegar a la raíz del complejo contexto que acompaña a algunas de las palabras desencadenantes que el sistema está entrenado para escuchar. Esto significa que, si bien algunas palabras pueden estar bloqueadas, (lo cual sigue siendo algo bueno), el verdadero significado de pendejos en línea seguirá apareciendo.
Algo como esto nunca reemplazará la confiable tecla de silencio. Los chats en línea, especialmente en los videojuegos, están llenos de gente desagradable y triste y, a veces, lo mejor que puedes hacer es simplemente silenciar, pero me gusta adoptar un enfoque más proactivo. Cada vez más juegos en estos días están comenzando a informar a los jugadores cuando un jugador del que informaron ha recibido una acción disciplinaria, y no hay mejor sensación que denunciar a un idiota por discurso de odio y luego ver que han sido prohibidos debido a sus acciones. .
Si bien me encanta el hecho de que Intel haya identificado esto como un problema, Bleep no parece la respuesta. Bloquear algunos, pero no todos, los discursos de odio es un poco tonto, y la IA tendrá problemas para llegar a la raíz del problema. Pero es bueno ver que las empresas comienzan a abordar estos problemas.
¿Tienes alguna idea sobre esto? Háganos saber más abajo en los comentarios o lleve la discusión a nuestro Twitter o Facebook.
