Qué es Deepfake y cuáles son sus consecuencias a la seguridad

Deepfake es una palabra que escuchamos cada vez con mayor frecuencia, tanto en las noticias como en las redes sociales, aunque la actividad existe desde hace ya un tiempo, pero ¿qué es? Te lo explicamos a continuación, y también te explicaremos las posibles afectaciones a la seguridad que puede ocasionar.

Deepfake

Esta palabra es una composición de los conceptos igualmente en inglés: “deep learning” y “fake”.

Si no has escuchado antes del deep learning, aquí te va:

Deep learning o aprendizaje profundo[1] es un tipo de machine learning o aprendizaje automático, que a su vez es un tipo de inteligencia artificial (IA). El deep learning es, en pocas palabras: una especie de cerebro artificial; y en muchas: una serie de algoritmos específicos que utilizan varias capas (con diferentes funciones) de redes neuronales artificiales, las cuales son nodos que simulan o buscan parecerse al cerebro humano. Estas redes neuronales reciben información estructurada con la que pueden analizar a detalle imágenes, videos y sonidos. Mientras más entradas de datos reciba el algoritmo de aprendizaje profundo, podrá trabajar con más precisión.

Finalmente, “fake”, la segunda parte de la palabra, viene del inglés, y en este contexto, se traduce como “falso”.

¿Recuerdas esas imágenes, videos y sonidos que el deep learning analiza detalladamente? Bueno, es gracias a este meticuloso análisis que pueden crearse manipulaciones de dicho contenido. En concreto, tal manipulación produce un deepfake, o como se le conoce ocasionalmente: medio sintético.

Cómo funciona el deepfake

Es necesario un proceso de análisis de un cierto contenido o material, digamos un video, para tomar lo que se esté buscando de él; por ejemplo, los rasgos faciales de una persona. Lo siguiente es insertar otro material para lograr un cambio en el primero; por ejemplo, la gesticulación de otra persona. Es entonces cuando podría lograrse la apariencia de que la primera persona de la cual se analizaron los rasgos faciales esté gesticulando cuando, de hecho, en el video original no lo hubiera hecho.

Existen cientos de ejemplos famosos de este resultado. Como aquel en el que Nicolas Cage aparece en películas en las que nunca actuó, o los ex presidentes Barak Obama y Donald Trump diciendo cosas que en realidad nunca dijeron. Aquí abajo puedes ver otros interesantes ejemplos de deepfake usando los rostros de Al Pacino y Arnold Schwarzenegger.

Entonces, parece que los objetivos de deepfake son solo estrellas de cine o personas famosas, pero ¿es así?

Cómo puede afectar el deepfake nuestra seguridad

Revisemos qué tiene que ver el deepfake con nosotros.

¿El deepfake es peligroso?

Hasta ahora el deepfake ha sido dirigido a celebridades del mundo de la actuación y de la política, esto por el grado de relevancia e influencia que tienen sobre el mundo. 

Las manipulaciones que has visto seguramente fueron hechas para que pasáramos un rato divertido, y no funcionarían si no se realizaran usando a personas por lo menos medianamente reconocidas. 

Pero el deepfake tiene un lado oscuro, y este es que un discurso o gesticulación manipulados pueden usarse para desorientar o engañar a los receptores de la información transmitida.

Ataques usando medios sintéticos

Un ejemplo concreto de esto es el ataque reciente que sufrió un importante directivo de la más grande plataforma de compraventa de criptomonedas del mundo, Binance. Patrick Hillman, director de comunicaciones de la reconocida empresa, asegura que se manipularon videos de algunas de sus apariciones en televisión para crear un holograma IA de él con el objetivo de engañar a terceros.[2]

¿Podríamos ser víctimas de deepfake?

Los defraudadores han demostrado que no necesitamos ser altos ejecutivos de alguna importante empresa para recibir ataques contra nuestra ciberseguridad, incluyendo el peligro de suplantación de identidad. Y de hecho, la única constante de la evolución tecnológica es que nunca dejamos de sorprendernos con ella. Por eso, tal vez no imaginamos futuras circunstancias por las que podríamos convertirnos en víctimas potenciales de deepfake. ¿Qué tipos de riesgos conlleva este fenómeno?

Ya que el deepfake puede bien involucrar la manipulación de discursos, voces y sonidos, no es descabellado pensar que pueda darse en líneas de servicio al cliente.

¿O qué tal los video chats que los bancos desarrollaron para que pudiéramos abrir una cuenta bancaria durante la pandemia? Puesto que todo medio audiovisual puede ser objeto de deepfake, este no sería la excepción, y podrías estar abriendo una cuenta que terminará inscrita con el nombre de alguien más. 

¿Es posible evitar el deepfake?

Basta con contar con un correo electrónico para darte cuenta de la tendencia que comienza a surgir entre las plataformas web para habilitar una autorización de ingreso de dos factores, sea tu celular u otro correo electrónico. Esta es una manera en la que las empresas pueden proteger al usuario de ser víctima de deepfake.

Algo que tú puedes hacer directamente es revisar la política de seguridad digital y fraudes de las empresas con las que te suscribes. Asegúrate de que te ofrecen los elementos de seguridad necesarios para que puedas tener una navegación segura.

En conclusión

El fenómeno del deepfake lleva desarrollándose desde hace algunos años. Se trata de una de las tantas evoluciones tecnológicas que pueden usarse para entretenernos, aunque también puede tener su lado menos amigable. Por tanto, seamos precavidos, pero siempre sin dejar de disfrutar de las maravillas que la tecnología nos ofrece.

Referencias en inglés:

[1] ¿Qué es el aprendizaje profundo? 


[2] Un directivo de Binance dice que unos estafadores crearon un holograma de él mediante deepfake para engañar a desarrolladores de cripto.