Concept-clé

Le deepfake est une technique de manipulation audiovisuelle qui repose sur l’intelligence artificielle et qui permet d’incruster des visages, d’émuler des voix et des discours ou des gestes dans des vidéos déjà existantes. Souvent utilisé dans les pratiques de cyberharcèlement pour produire des vidéos à caractère pornographique, ce trucage numérique consiste à nuire en détournant l’image d’une personne afin de lui prêter des comportements ou des propos qu’elle n’a pas tenus ou qu’elle ne partage pas.

Le deepfake repose sur une technique de Machine Learning qui, à partir d’images déjà fournies
 consiste à mettre en compétition deux algorithmes d’apprentissage (Generative Adversarial Network – GAN – soit un réseau antagoniste génératif). Le premier algorithme identifié comme « générateur » va chercher à créer des contrefaçons les plus crédibles possibles. Le second dit « discriminateur » s’applique à détecter les données générées artificiellement le plus efficacement possible.

Au fil du temps, les deux algorithmes se perfectionnent dans leur relation d’amélioration continue pour optimiser le niveau de réalisme des images. À un moment donné, le premier algorithme arrive à produire de fausses images sans que le second ne puisse détecter la supercherie. Peuvent se distinguer aujourd’hui plusieurs techniques de synthèse et de montage pour créer un deepfake : le faceswap (échange de visage), le lipsync (synchronisation des lèvres), le puppeteering (expressions faciales et corporelles), etc.

Ce qu’il faut retenir…

En nous intéressant aux facteurs qui contribuent à la propagation des deepfakes, Trois composantes typiques peuvent être identifiées :

• l’hypervisibilité : si les logiciels de trucage numérique sont aujourd’hui faciles d’utilisation, la réalisation d’une vidéotox doit cependant pouvoir s’appuyer sur un nombre important d’images et de vidéos en ligne pour se rapprocher le plus possible d’un certain réalisme. Cette injonction de visibilité ne peut se dissocier de celle de modernité (le fait d’être en phase avec l’actualité, d’être à la mode, de correspondre à une tendance récente), et contribue considérablement à sa propagation sur la toile. Ainsi, plus la personne est populaire et référencée sur Internet, plus elle est susceptible de faire l’objet d’un deepfake ;
• l’exclusivité : plusieurs études et rapports (Institut Reuters, European Journalism Observatory) montrent que les sources officielles suscitent aujourd’hui une certaine défiance de la part du grand public (crédibilité des journalistes remise en question, moyens d’information traditionnels boudés par les jeunes générations, etc.). Sont au contraire privilégiées sur Internet des sources alternatives qui se focalisent sur la révélation, l’exclusivité, le scoop (comme la source d’un témoin de l’affaire, un proche du dossier, etc.) ;
• l’émotion : un lien fondamental est établi entre l’émotion mémorisable et le pouvoir de l’image. Ainsi une vidéo à caractère sexuel, perçue dans sa dimension transgressive du tabou, est un élément porteur de sensations pour le spectateur. L’évocation de l’interdit procure des émotions contradictoires pour celui qui regarde, entre l’offense faite à son système de valeurs et la réjouissance par procuration à franchir les limites de cet intime. « L’information ne cherche pas ici un savoir ni même un voir, mais un faire-voir susceptible de produire directement un croire, indispensable à l’émotion ».

Aux origines

Une première interprétation du mot deepfake peut être proposée dans la contraction de l’anglais « deep learning », le système d’apprentissage qui utilise l’intelligence artificielle, et de « fake » qui signifie contrefait. Ainsi pourrions-nous traduire ce terme par des contenus trompeurs et spécieux, rendus profondément crédibles grâce à l’intelligence artificielle.

Mais ce terme peut également être directement inspiré du pseudonyme d’un utilisateur du site communautaire et social Reddit « u/deepfake » qui fut le premier à publier en novembre 2017 des vidéos pornographiques dans lesquelles il réussit à remplacer le visage des actrices X par celui de célébrités américaines.

Comme il est nécessaire de disposer d’une assez grande quantité d’images, au départ, pour que l’apprentissage soit vraiment performant, la médiatisation de certaines personnalités hollywoodiennes a malheureusement constitué une base de données privilégiée pour ce faussaire. Ainsi, si la jeune actrice Daisy Ridley fut la première victime de ses hypertrucages, le phénomène prit une réelle ampleur peu de temps après avec la fausse sextape mettant en scène Gal Gadot (connue pour son interprétation de Wonder Woman).

La presse américaine (The New York Times, The Washington Post, The Guardian, etc.) s’est rapidement inquiétée de la popularité massive de ces courtes séquences pornographiques, qui ne se cantonnent plus aujourd’hui à la fabrication de contenus obscènes, mais deviennent au contraire de véritables armes de communication politique.

Exemple concret