Deepfake Barack Obama

Deepfake: AI vs AI

Fuente: University of California, Berkeley

¿Alguna vez has pensado ver a tu actor favorito interpretando una película donde no era el protagonista? Bueno, algoritmos de Inteligencia Artificial ahora tienen la capacidad de recrear a personas reales haciendo y diciendo cosas ficticias. Es un gran hito, sin embargo, esta tecnología denominada deepfake está siendo usada para la manipulación de videos y propagar la desinformación.

Deepfake

Esta tecnología es la combinación de los términos Deep Learning y fake (falso) y tiene la capacidad de superponer el rostro de una persona en el rostro de otra persona para falsificar sus gestos. Esto con el fin de recrear escenas que no sucedieron en la realidad. Así pues, con esta herramienta se puede manipular videos en diversos sectores que van desde el entretenimiento hasta la política. Y es justo ahí donde lo impresionante se convierte en aterrador, pues los efectos de los deepfakes en la política y la sociedad pueden ser de los más desastrosos.

Video del actor Steve Buscemi en el cuerpo de la actriz Jennifer Lawrence usando deepfakes.

La lucha contra la desinformación

Como vemos, esta tecnología puede engañar y crear confusión entre la sociedad a partir de la difusión de información errónea y peligrosa. Los deepfakes han generado mucha preocupación en investigadores y en sectores donde se puede dañar la imagen de una marca o de una persona. La política es un claro ejemplo, ya que se puede recrear a políticos para que digan palabras de otras personas en sus bocas o para que participen en situaciones en las que no han asistido.

Aunque, por ahora, es fácil para el ojo humano detectar este tipo de falsificaciones, varios informes indican que la cantidad de deepfakes publicados en línea ha ido aumentando rápidamente y son las redes sociales su principal medio de salida. Además, todo parece indicar de que un futuro no muy lejano, los humanos no tendrán la capacidad suficiente para distinguir las falsificaciones debido a los grandes avances en la Inteligencia Artificial. Por ello, Facebook ha lanzando el “Deepfake Detection Challenge” para dar frente a este problema.

Deepfake, artificial intelligence, facebook, machine learning
Datos de Facebook generados por deepfakes. Fuente- MIT

La red social ha motivado a que los investigadores de todo el mundo puedan crear algoritmos de Deep Learning que ayuden a detectar las falsificaciones generadas y los medios manipulados por los algoritmos de deepfakes. Esto con el propósito de prevenir la difusión de información errónea y creación de confusión en la sociedad. Para tal fin, la empresa ha brindado un conjunto de datos de más de 100, 000 videos generados con esta tecnología.

Nada mejor que una inteligencia artificial para frenar a otra inteligencia artificial en la prevención de la desinformación y el posible caos y confusión que se puede generar. Por ello, hay que tener mucho cuidado con el tipo de información que se ve en las redes sociales, quizá algunas de ellas pueda haber sido generado por algoritmos de deepfakes.


Neisser Ale
Neisser Ale

Data Scientist