Para combatir el contenido dañino en Internet, Facebook compartió sus algoritmos de código abierto en GitHub para evitar dicho contenido. Se espera que compartir proteja mejor a los niños y evite el contenido dañino.
Habiendo decidido poner fin al contenido dañino en Internet, Facebook aparentemente se da cuenta de que no puede hacer esto solo. El gigante de las redes sociales comenzó a dar algunos pasos, pensando que tenía que trabajar o apoyar a otros para acabar con este negocio.
La compañía compartió hoy dos de sus tecnologías de videovigilancia y fotovigilancia como fuente abierta en GitHub. Facebook espera que los algoritmos ayuden a otras personas a detectar y eliminar contenido dañino, como abuso infantil y propaganda terrorista.
Hoy, Facebook elimina el contenido si encuentra una foto o un video dañino. El algoritmo que utilizan marca digitalmente los videos y fotos que la empresa elimina. Por lo tanto, incluso si no hay un video o foto original en el medio, se puede comparar con la otra imagen compartida. Por ejemplo, si algún video terrorista se difunde en Internet, es posible que Facebook encuentre y elimine las copias.
Conocidos como PDQ y TMK + PDQF, estos algoritmos ahora estarán disponibles para los socios de la industria de Facebook, así como también para desarrolladores más pequeños y organizaciones sin fines de lucro. PDQ es una herramienta de combinación de fotos inspirada en pHash pero hecha desde cero. TMK + PDQF es una herramienta de comparación de videos desarrollada por el equipo de investigación de inteligencia artificial de Facebook y Reggio Emilia de la Universidad de Módena en Italia. Para aquellos que ya usan tecnología de coincidencia de contenido, Facebook dice que PDQ y TMK + PDQF podrían ofrecer otra capa de defensa y permitir que diferentes sistemas se comuniquen entre sí.
Facebook anunció herramientas de código abierto como parte de su Child Safety Hackathon y espera que la tecnología pueda ayudar a proteger a los niños. Estas herramientas se pueden usar junto con la herramienta PhotoDNA basada en la nube de Microsoft y la API de seguridad de contenido de Google, ambas lanzadas para proteger a los niños. Los descubrimientos a principios de este año de que hay muchos videos de pedofilia en YouTube también muestran cuán importantes pueden ser tales herramientas.
Fuente: https://www.engadget.com/2019/08/02/facebook-open-source-harmful-content-algorithm/
