Recientemente, muchas empresas han prestado atención a la lucha contra el ciberacoso (es decir, el acoso o la humillación deliberada) en Internet. En primer lugar, esto concierne a los propietarios de grandes redes sociales y sitios de Internet similares. Por ejemplo, Facebook, la empresa propietaria de la popular plataforma Instagram, está lanzando una nueva función destinada a combatir el acoso de los usuarios. Cabe destacar aquí no tanto que rastreará los comentarios en las publicaciones, sino que funcionará sobre la base de algoritmos de inteligencia artificial.
¿Cómo funciona la función anti-ciberacoso de Instagram?
Desde el 16 de diciembre, algunos usuarios de Instagram ya han recibido esta opción (incluso sin que ellos lo supieran). Notificará a las personas cuando los subtítulos de sus fotos o videos “puedan considerarse ofensivos”. Los ejecutivos de Instagram dicen que han “desarrollado y probado” una IA que puede “reconocer varias formas de intimidación” dentro de la red social. Antes de que se publiquen dichos comentarios, el algoritmo notificará primero a los usuarios al respecto, si lo considera necesario.
Los resultados de nuestras pruebas fueron muy prometedores y descubrimos que este enfoque a menudo obliga a los usuarios a reconsiderar sus palabras. – declaró en el servicio de prensa de Instagram.
Pero, ¿cómo funciona esta función? Tomemos un ejemplo: cuando crea una firma para su propia publicación o la de otra persona, un algoritmo de inteligencia artificial determinará si su contenido es potencialmente ofensivo o peligroso. Podrá obtener una pista que le informe de esto. Luego, se le dará la oportunidad de editar lo que ha escrito. Aunque no es necesario. Si lo desea, puede dejar todo como estaba previsto originalmente. No suena muy convincente, ¿verdad? Pero no todo es tan sencillo. El caso es que incluso si publicas un comentario o publicación y después de un análisis más profundo resulta que contiene declaraciones ofensivas, otros usuarios de la plataforma simplemente no lo verán. ¿Qué te parece esta oportunidad? Escribe tu opinión en nuestro chat en Telegram. Allí, nadie ocultará tus comentarios.
Los funcionarios de Instagram dicen que la función ya está disponible en algunas regiones y se implementará gradualmente a nivel mundial en los próximos meses. Pero me gustaría hablar de esto. Todos conocemos casos bastante extraños de usuarios de plataformas como Twitch o YouTube siendo baneados por declaraciones de este tipo, que de hecho no siempre fueron así.
Entonces, ¿dónde está la garantía de que una empresa del bien de palabra se convierta en otra “sanción” por un miedo excesivo a ofender a diferentes segmentos de la población? ¿Y en lugar de pasar críticas justificadas o declaraciones duras pero justas a través del “filtro de IA”, Instagram no comenzará a “prohibir” a todos con la esperanza de hacer una plataforma con “arcoíris y unicornios” fuera de la red social? Sin duda, se necesitan algún tipo de mecanismos de ajuste. Pero, ¿quién controlará los mecanismos que controlan nuestra comunicación?
