Facebook AI tiene como objetivo identificar imágenes deepfake y rastrear a sus creadores

Mediante Chris Stokel Walker

Facebook ha desarrollado inteligencia artificial que, según dice, puede detectar imágenes deepfake e incluso realizar ingeniería inversa para comprender cómo fueron creadas y posiblemente rastrear a sus creadores.

Los deepfakes son imágenes completamente artificiales creadas por IA. La nouvelle IA de Facebook examine les similitudes entre une collection de deepfakes pour voir s'ils ont une origine commune, à la recherche de motifs uniques tels que de petites taches de bruit ou de légères bizarreries dans le spectre de couleurs d&#39 ;una imagen.

Al identificar las huellas dactilares menores en una imagen, la IA de Facebook puede discernir los detalles de cómo se diseñó la red neuronal que creó la imagen, como el tamaño del modelo o cómo fue entrenado.

"Pensé que no funcionaría en absoluto", dice Tal Hassner en Facebook. "¿Cómo podríamos, con solo mirar una foto, determinar el número de capas de una red neuronal profunda o la función de pérdida con la que ha sido entrenada?" "

Hassner y sus colegas probaron la inteligencia artificial en una base de datos de 100,000 imágenes deepfake generadas por 100 modelos generativos diferentes que hacen 1,000 imágenes cada uno. Algunas de estas imágenes se utilizaron para entrenar el modelo, mientras que otras se conservaron y se presentaron al modelo como imágenes de origen desconocido.

Esto hizo posible probar la IA en su objetivo final. “Lo que hacemos es mirar una foto y tratar de estimar cuál es el diseño del modelo generativo que la creó, aunque nunca antes habíamos visto este modelo”, explica Hassner. Se negó a compartir la precisión de las estimaciones de la IA, pero dijo que "somos mucho más buenos que la suerte".

"Este es un gran paso adelante para las huellas dactilares", dice Nina Schick, autora de Deep Fakes y el infocalipsis. Pero ella señala, al igual que Hassner y sus colegas, que la IA solo funciona con imágenes generadas de forma totalmente artificial, mientras que muchos deepfakes son videos creados al pegar una cara en el cuerpo de alguien.

Schick también se pregunta qué tan efectiva sería la IA fuera de los entornos de laboratorio, encontrando deepfakes en la 'naturaleza'. “El tipo de modelos de detección de rostros que vemos se basan en gran medida en conjuntos de datos académicos y se implementan en entornos controlados”, dice.

Hassner se negó a hablar sobre cómo Facebook usaría su nueva IA, pero dice que ese tipo de trabajo es un juego del gato y el ratón contra las personas que crean deepfakes. "Estamos desarrollando mejores modelos de identificación, mientras que otros están desarrollando cada vez mejores modelos generativos", dice. "No tengo ninguna duda de que en algún momento habrá un método que nos engañe por completo".