Deepfake vidéos : pourquoi et comment les fake fonctionnent

96 % des deepfake recensés à ce jour sont pornographiques, et 99 % d’entre eux montrent des visages de célébrités féminines et de stars du porno.

Les Deepfake échangent les visages des célébrités dans des vidéos pornographiques. Ils mettent des mots dans la bouche des politiciens. Mais ils pourraient faire bien pire encore.

Définition de l’expression « deepfake »

Les Deepfake sont de fausses vidéos ou de faux enregistrements audio qui ressemblent à la réalité. Autrefois les studios d’effets spéciaux et les agences de renseignement d’Hollywood produisaient de la propagande pour la CIA ou le FBI. Mais aujourd’hui, tout le monde peut télécharger des logiciels Deepfake et créer des vidéos contrefaites convaincantes pendant son temps libre.
  • Jusqu’à présent, les deepfake se limitaient à des amateurs mettant des visages de célébrités sur le corps de stars du porno.
  • Ils faisaient dire des choses drôles aux politiciens.
  • Mais il serait tout aussi facile de créer un deepfake d’alerte avertissant qu’une attaque est imminente.
  • Détruire le mariage de quelqu’un avec une fausse vidéo de sexe.
  • Perturber une élection serrée en diffusant le faux enregistrement vidéo d’un candidat quelques jours avant le début du scrutin.
Ne croyez pas que les deepfake sont une nouveauté. En 1920, juste après l’invention du cinéma, des fausses vidéos d’actualité étaient déjà montées pour dramatiser les vraies actualités. À une époque où le film pouvait prendre des semaines pour traverser un océan, les cinéastes dramatisaient les tremblements de terre ou les incendies avec des décors minuscules pour rendre les nouvelles plus réalistes.

Les deepfakes sont-ils dangereux ?

Cela rend beaucoup de gens nerveux, à tel point que Marco Rubio, sénateur républicain de Floride et candidat à la présidence en 2016, les a qualifiés d’équivalents modernes aux armes nucléaires.
« Dans le temps, si vous vouliez menacer les États-Unis, il vous fallait 10 porte-avions, des armes nucléaires et des missiles à longue portée. Aujourd’hui, il vous suffit d’avoir accès à internet, au système bancaire américain, au réseau et à l’infrastructure électrique du pays : tout ce dont vous avez besoin, c’est de la capacité de produire une fausse vidéo très réaliste qui pourrait compromettre nos élections, plonger notre pays dans une crise interne énorme et nous affaiblir profondément ».
Hyperbole politique biaisée par une ambition frustrée, ou les deepfakes sont-ils vraiment une plus grande menace que les armes nucléaires ? A entendre Rubio, nous nous dirigeons vers l’Armageddon. Mais tout le monde n’est pas d’accord.
Deepfake Vladimir Poutine

Comment fonctionnent les deepfake

Croire, c’est voir : Les êtres humains recherchent des informations qui soutiennent ce qu’ils veulent croire et ignorent le reste. Le téléchargement grand-public de vidéos Facebook privées prouve cette volonté de violer l’intimité des gens. Cette tendance humaine donne beaucoup de pouvoir aux acteurs malveillants. Nous le constatons avec la désinformation qui crée des mensonges délibérés (les « fake news »). Le temps que les vérificateurs de faits commencent à hurler en signe de protestation, il est souvent trop tard. Les vidéos trafiquées ou deepfake peuvent effectivement s’apparenter à une forme de désinformation, tout aussi efficace que les faux-semblants. Une vidéo peut facilement être manipulée pour discréditer une cible choisie par l’agresseur : un journaliste, un politicien, une entreprise, une marque. Le déploiement de cette peur comme d’une arme à grande échelle peut nuire gravement à une entreprise ou à un individu. Il est très difficile de se défendre contre les deepfake. Une fois que le doute a été semé, une partie non négligeable des téléspectateurs n’oubliera jamais ce détail et soupçonnera qu’il pourrait être vrai.

Le film « Des hommes d’influence » en 1997

Vous vous rappelez ce film très drôle de Barry Levinson, Des hommes d’influence, sorti en 1997, faisant la satire d’un président qui se présente pour être réélu et qui simule une guerre en utilisant des effets spéciaux pour couvrir un scandale sexuel. Prophétique pour l’époque, la possibilité de « falsifier les informations télévisées » existe maintenant depuis longtemps. Elle est à la portée de tous les propriétaires d’ordinateurs portables de la planète. Sans chercher bien loin, il est facile de prendre une vidéo de personnes en train de battre quelqu’un dans la rue, puis de créer tout un faux récit autour de cette vidéo : par exemple, prétendre que les agresseurs sont des immigrés ou toute autre chose.

Les étapes de leur fabrication

Les chercheurs universitaires et les studios d’effets spéciaux ont depuis longtemps repoussé les limites du possible en matière de manipulation d’image. En 2017, lorsqu’un utilisateur de Reddit a posté des clips pornographiques trafiqués sur le site, les deepfake ont commencé à échanger le visage de célébrités contre celui d’artistes pornographiques.

Il faut quelques étapes seulement pour réaliser un échange de visages sur une vidéo:

  • Tout d’abord, vous faîtes passer des milliers de clichés des visages des deux personnes dans un algorithme basé sur une intelligence artificielle (un encodeur).
  • L’encodeur apprend les similitudes entre les deux visages et les réduit à leurs caractéristiques communes, en comprimant les images dans le processus.
  • Un second algorithme d’IA (décodeur) est ensuite utilisé pour récupérer les visages à partir des images compressées.
  • Par exemple, l’image compressée du visage de la personne A est introduite dans le décodeur traitant de la personne B. Le décodeur reconstruit alors le visage de la personne B avec les expressions et l’orientation du visage A. Pour faire une vidéo convaincante, il faut faire ça sur chacune des images.
Le résultat pourra être visionné sur n’importe quelle plate-forme en ligne (Youtube) ou n’importe quel lecteur vidéo multimédia (ici notre liste des six meilleurs).

Nécessité d’avoir un matériel haut de gamme

Il est difficile de faire un bon deepfake sur un ordinateur standard. La plupart sont créés sur des ordinateurs de bureau haut de gamme dotés de cartes graphiques puissantes ou, mieux encore, d’une puissance de calcul dans le nuage. Cela réduit le temps de traitement de plusieurs jours à quelques heures seulement. Il faut aussi de l’expertise, notamment pour retoucher les vidéos terminées afin de réduire le scintillement et d’autres défauts visuels. Cela dit, de nombreux outils sont désormais disponibles pour aider les gens à faire des deepfake. Plusieurs entreprises les réalisent pour vous et effectuent tout le traitement dans le nuage. En Chine, il existe une application pour téléphone portable, Zao, qui permet aux utilisateurs d’ajouter leur visage à une liste de personnages de télévision et de cinéma sur lesquels le système s’est entraîné. L’application n’est pas encore disponible en France.
Deepfake Jennifer Lawrence

Comment détecter les deepfakes

La détection des deepfake est un problème difficile. Les amateurs peuvent, bien sûr, être détectés à l’œil nu. Des machines peuvent également détecter l’absence de clignement des yeux ou les ombres non conformes. Mais les logiciels de création de deepfake s’améliorent sans cesse, et nous devrons bientôt inventer une sorte de « médecine légale numérique » pour les détecter, si c’est encore possible…  C’est un problème si difficile que certains chercheurs cherchent à trouver les meilleurs moyens pour authentifier les vidéos. Cependant, comme d’autres ingénieurs  cherchent eux aussi à échapper à ces analyses, il n’est pas certain que la bataille puisse être gagnée. Si nous ne sommes pas capables de détecter les fausses vidéos, nous pourrions bientôt être obligés de nous méfier de tout ce que nous voyons et entendons. Nous évoquons par exemple ici le danger déjà représenté par les chats en ligne en temps réel. Internet joue aujourd’hui un rôle de médiateur dans tous les aspects de notre vie, et l’incapacité à faire confiance à ce que nous voyons pourrait conduire à une « fin de la vérité ».
Cela menace non seulement notre foi dans le système politique, mais aussi, à plus long terme, notre foi dans toute la réalité objective partagée.
Si nous ne pouvons pas nous entendre sur ce qui est réel et ce qui ne l’est pas, comment pouvons-nous débattre des questions politiques ?

Ironiquement, l’IA pourrait être la réponse

L’intelligence artificielle permet déjà de repérer les fausses vidéos, mais uniquement sur les célébrités car des heures de vidéos sont disponibles. Les entreprises travaillent maintenant sur des systèmes de détection qui visent à repérer les deepfake dès qu’ils apparaissent.

Les deepfake sont-ils toujours malveillants ?

Pas du tout. Beaucoup sont divertissants et certains sont utiles.
  • Le clonage de la voix peut rétablir la voix des gens lorsqu’ils la perdent à cause d’une maladie.
  • Des vidéos de deepfake peuvent animer les galeries et les musées.
  • En Floride, le musée Dalí possède un deepfake du peintre surréaliste qui présente son art et s’empare des visiteurs.
  • Pour l’industrie du divertissement, la technologie peut être utilisée pour améliorer le doublage des films en langue étrangère et même ressusciter des acteurs décédés… Par exemple, le regretté James Dean doit être la vedette de Finding Jack, un film sur la guerre du Vietnam, en novembre 2020.
Deepfake Nicolas Cage

La pornographie deepfake : une menace bien réelle

Les politiciens mentent depuis que la politique existe, et la menace que représentent les deepfake pour la démocratie peut sembler exagérée. Mais la création d’une pornographie deepfake qui met la tête d’une célébrité (ou d’une ex-petite-amie) sur le corps d’une star du porno : c’est déjà une réalité. Tout ce dont le créateur de porno contrefait a besoin, c’est de photos de sa victime, facilement prises à partir de ses réseaux sociaux, et d’une vidéo qui dure plusieurs minutes. Même les célébrités, dont beaucoup sont habituées à une certaine haine du public, ont exprimé leur horreur en découvrant leur tête superposée au corps d’une star du porno dans une vidéo torride. Parfois, les deepfake ne visent pas à éclairer une population, mais à l’intimider ou à la harceler.

Comment réglementer pour empêcher les deepfake

Ces contrefaçons sont-elles légales ? C’est une question épineuse et non résolue. Il faut tenir compte du droit à la propriété intellectuelle, du droit à la vie privée et des nouvelles lois sur la pornographie. Mais même en cas d’illégalité, des deepfake de films pornographiques continuent d’être diffusés sur des plateformes peu répandues. En ce qui concerne les discours politiques sans allusion sexuelle, les lignes sont floues. La loi protège la liberté d’expression des hommes politiques, même s’ils mentent. Publier des informations erronées, par accident ou intentionnellement, ne semble pas réprimé si ce n’est par la loi n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information. Le marché des idées est censé distinguer la vérité du mensonge, et aucun censeur gouvernemental n’intervient sur les plateformes de réseaux sociaux. Pensez à protéger votre ordinateur et à prendre l’habitude de stocker vos photos, vidéos et fichiers dans des dossiers sécurisés et chiffrés. C’est exactement ce que fait le logiciel Nordlocker. 
Qu'est-ce qu'un "deepfake" ?

Beaucoup de deepfake sont pornographiques

96 % des deepfake recensés à ce jour sont pornographiques, et 99 % d’entre eux montrent des visages de célébrités féminines et de stars du porno. Comme les nouvelles techniques permettent à des personnes non qualifiées de faire des deepfake avec une poignée de photos, les deepfake vont probablement se répandre au-delà du monde des célébrités pour alimenter le « porno de la vengeance ».

En plus du porno, on trouve aussi beaucoup de parodies et de satires.

Quelle note attribuez-vous sur un total de 5 ?
5 (1 vote)