Preocupado por la creciente tendencia de deepfakes, imágenes, videos o sonidos alterados digitalmente, que usan inteligencia artificial (IA) para cambiar el original con una variedad de adiciones, desde agregar palabras sutilmente o reemplazar por completo la cara de la persona que habla. Con las próximas elecciones, Microsoft acaba de lanzar algunas herramientas nuevas para ayudar a los activistas políticos y las organizaciones de medios a detectar los medios alterados.
La herramienta de detección se llama Microsoft Video Authenticator (MVA) y analiza videos para calificarlos con una puntuación de confianza que le dirá al usuario si el metraje fue manipulado o no. La herramienta funciona con algoritmos creados por el equipo de IA responsable de Microsoft y el Comité de IA, ética y efectos en la ingeniería de Microsoft (AETHER).
¿Entonces, cómo funciona? Todo el mundo puede saber si un vídeo popular tiene una gran falsedad, ¿verdad? Bueno, esta herramienta está diseñada para detectar los ajustes sutiles que puede pasar por alto a primera vista. Consulte la imagen a continuación para ver un ejemplo de cómo funciona:
Imagen: Microsoft
La otra mitad de esta ecuación es una herramienta impulsada por la nube Azure de Microsoft, que permite a los creadores de contenido cargar hash de sus videos; de esta manera, Microsoft tiene una base de datos de valores conocidos para verificar. Eso se combina con un lector que puede escanear la firma de los videos y compararla con la base de datos, con la esperanza de que el usuario sepa si un medio es falso o no. Por el momento, no está claro si Microsoft está haciendo públicas estas herramientas o si solo se ofrecen a fuentes aprobadas como los medios de comunicación.
Ah, ¿y si crees que estás preparado para el desafío de detectar deepfakes? Microsoft tiene un sitio web donde puedes jugar a un juego llamado Spot the Deepfake. Pruébelo y vea exactamente qué tan difícil es resolver el problema para los moderadores humanos.
¿Tienes alguna idea sobre esto? Háganos saber más abajo en los comentarios o lleve la discusión a nuestro Twitter o Facebook.
Recomendaciones de los editores:
