Vicomtech expone las claves de las tecnologías de IA aplicadas a la generación y detección de DeepFakes

La sesión estuvo protagonizada por tres expertos de Vicomtech: Jorge Posada, director adjunto; Aitor Álvarez, investigador en Tecnologías del Habla; y Unai Elordi, investigador en Inteligencia Artificial. Tras presentar las tecnologías disponibles en el mercado y desarrolladas en Vicomtech así como los sectores en los que se aplican, los ponentes explicaron qué es exactamente un DeepFake (suplantación de la identidad de un usuario con imágenes y/o audio), un FaceSwap (intercambio de las caras de dos personas) y un VoiceSwap (aplicación de técnicas de conversión voz-voz al estilo de FaceSwap).

A continuación, detalleron cómo se generan imágenes y voces sintéticas, a través de un repaso de las técnicas más habituales y el análisis en detalle de casos reales. También enumeraron las aplicaciones positivas de esta tecnología en campos como el marketing, la publicidad, el sector audiovisual, la industria del entretenimiento, el branding, la educación, el arte y la seguridad, sin olvidar los sistemas IVR (banca, seguros…).

Durante la sesión también se repasaron los casos en los que podrían usarse los DeepFakes, los FaceSwap y los VoiceSwap de forma maliciosa, y proporcionaron claves para detectarlos. Por ejemplo, en los casos de DeepFakes, los brillos en las gafas, junto a la geometría del pelo, pueden resultar poco naturales. En general, los dos investigadores señalaron que la clave es detectar la falta de naturalidad tanto en las imágenes como en las voces sintéticas.

A modo de conclusión, expresaron que Vicomtech es capaz de desarrollar todas estas tecnologías, que consideraron “transversales”, por su aplicación a múltiples sectores. También subrayaron que son herramientas que contribuyen al desarrollo de la Inteligencia Artificial y a la mejora de la preservación de la privacidad. Como último apunte, abogaron por la regulación de la generación de DeepFakes, campo en el que aún queda un largo camino que recorrer.