Skip links

¿Qué son los deepfakes en AI?

En la era de la información, las noticias falsas y los datos no verificados están a la orden del día. Tan sólo en México para 2020, el 72% de la población era usuaria de internet (INEGI). Así que no resulta imposible pensar que estos usuarios repetidamente se exponen a información falsa. Si bien podría ser más fácil creerle a las imágenes o videos por lo complicado que podría ser alterarlos, lo cierto es que cada vez es más fácil modificar videos y audio gracias a la Inteligencia Artificial (AI).

La AI se ayuda de un software para crear imágenes, audio y videos convincentes tan creíbles que a simple vista es muy complicado distinguir que son falsos, a esto se le llama Deepfake. El Deepfake difiere de las fakenews porque éstas últimas no involucran necesariamente elementos multimedia, más bien se limitan a proporcionar información falsa en formato de texto. Uno de los usos más conocidos de los deepfakes es el desprestigio o alteración de opiniones o hechos en el ámbito político.

“La AI se ayuda de un software para crear imágenes, audio y videos convincentes tan creíbles que a simple vista es muy complicado distinguir que son falsos, a esto se le llama Deepfake.”

Esta inteligencia se popularizó en 2017 cuando un usuario de Reddit publicó videos sexuales de artistas como Daisy Ridley, Gal Gadot y Scarlett Johanson. Tras este hecho, se creó una aplicación para facilitar la creación de este tipo de contenido. Y aunque no era perfecto, se volvió relativamente accesible para cualquiera modificar imágenes en movimiento. Tal fue el alcance que para 2019, especulativamente, el 96% de lo creado por deepfake ha sido pornografía.

Ahora bien, el machine learning es el encargado de dar pie a los deepfakes a través de dos algoritmos que compiten: generador y discriminador. El generador, como su nombre lo dice, crea contenido falso a partir de imágenes que se le dan. Por su parte, el discriminador se encarga de calificar con 0 (si es falso) y 1 (si es real) el resultado del generador. Este proceso se realiza una y otra vez, con suficientes repeticiones el generador comenzará a dar contenido más realista. Al final, ambos algoritmos se alimentan uno del otro. A todo este proceso se le conoce como confrontación generativa o GAN por sus siglas en inglés.

Otra manera en que se crea este contenido es a través de un algoritmo llamado codificador. Para esto son necesarias miles de tomas faciales de dos personas. El algoritmo encuentra y aprende similitudes entre ambas caras para reducir ambas a sus características compartidas y así comprime estas imágenes. Después aparece el decodificador encargado de rescatar las imágenes comprimidas, una secuencia más parecida al rostro original y otra al segundo rostro introducido. Para terminar sólo se introduce la segunda cara en la secuencia y parecerá legítimo.

El machine learning es el encargado de dar pie a los deepfakes a través de dos algoritmos que compiten: generador y discriminador.

Aunque, como ya se mencionó, esta tecnología suele usarse con fines políticos, el sector empresarial no está exento de sufrir sus consecuencias; desde influir en precios de alguna acción hasta esfuerzos para dañar la reputación de alguna persona perteneciente a la organización, que a su vez dañe la reputación de la empresa. La ciberseguridad también está en riesgo en tanto la suplantación de la identidad se puede realizar, lo que da pie a consecuencias negativas tanto para la organización como para los clientes de dicha empresa.

Claro que los daños percibidos desde el aspecto sociológico también son preocupantes, pues de seguir con esta práctica se tendrán sociedades cada vez más dadas a desconfiar de lo que ven, aún cuando se trate de audios o videos.

En XalDigital contamos con las soluciones necesarias para el crecimiento de tu empresa a través de los datos y la tecnología. Contáctanos para conocer lo que podemos ofrecerte.