La vérité derrière les deepfakes

Qu'est-ce qu'un deepfake ?

Un deepfake est une vidéo truquée hyperréaliste créée à l'aide d'algorithmes d'intelligence artificielle (IA). Ces algorithmes sont capables de reproduire à la perfection les expressions faciales et la voix d'une personne. Concrètement, un deepfake permet de mettre le visage d'une personne sur le corps d'une autre, de lui faire dire ou faire des choses qu'elle n'a jamais dites ou faites. Le résultat est bluffant de réalisme.

Comment sont fabriqués les deepfakes ?

La fabrication d'un deepfake repose sur une technique d'IA appelée apprentissage profond (deep learning en anglais). Des algorithmes sont entraînés à l'aide d'énormes bases de données de vidéos et de photos d'une personne. Ils apprennent ainsi à reproduire fidèlement ses expressions, ses mouvements, sa voix. Une fois l'algorithme bien entraîné, il peut générer de toutes pièces de nouvelles vidéos de la personne, en lui faisant dire et faire n'importe quoi.

Pourquoi les deepfakes sont-ils si réalistes ?

La qualité des deepfakes a beaucoup progressé ces dernières années, au point qu'il est de plus en plus difficile de faire la différence entre le vrai et le faux. Plusieurs facteurs expliquent ce réalisme troublant :

• La puissance des algorithmes d'IA, qui s'améliorent sans cesse
• L'augmentation des données d'entraînement (photos, vidéos, bandes sonores...)
• Les progrès techniques dans le rendu 3D des visages

Résultat : certains deepfakes sont quasiment impossibles à détecter par l'œil humain.

La propagation inquiétante des deepfakes

Si les deepfakes peuvent servir à des projets créatifs, ils sont malheureusement bien plus souvent utilisés à des fins malveillantes :

Usurpation d'identité

Des deepfakes peuvent être utilisés pour usurper l'identité de dirigeants politiques et faire des annonces frauduleuses, manipuler les marchés financiers...

Chantage et revenge porn

Ils peuvent aussi servir au chantage et au revenge porn, en mettant le visage d'une personne sur des vidéos pornographiques sans son consentement. Un usage malheureusement fréquent.

Désinformation

Les deepfakes représentent une arme redoutable de désinformation de masse, en particulier dans un contexte électoral. Ils peuvent être utilisés pour manipuler l'opinion publique ou discréditer des personnalités politiques. Selon une étude du Massachusetts Institute of Technology (MIT), 90% des deepfakes actuellement en circulation sont pornographiques et ciblent des femmes. Mais les experts s'attendent à ce que leur usage se diversifie rapidement à mesure que la technologie se démocratise.

Quels sont les risques pour notre société ?

Perte de confiance dans les images

Avec les deepfakes, nous entrons dans une ère de "post-vérité visuelle" où plus aucune image ni vidéo ne sera digne de confiance. Comment faire la part entre le vrai et le faux quand n'importe quelle vidéo peut être truquée et manipulée ? Cette confusion généralisée est un danger pour nos démocraties, qui reposent sur des informations et des débats publics intègres.

Manipulation à grande échelle

Certains experts craignent que les deepfakes soient utilisés pour des opérations de manipulation de masse, afin d'influencer des élections en discréditant des candidats par exemple. Leurs craintes sont d'autant plus vives face à l'élection présidentielle américaine de 2024.

Atteintes à la vie privée

Les deepfakes pornographiques représentent déjà une forme grave d'atteinte à la vie privée, en particulier pour les femmes. Mais certains imaginent des usages encore plus intrusifs : des caméras cachées dans des chambres à coucher filmant des personnes à leur insu, par exemple.

Que font les géants du web face à cette menace ?

Conscients des dangers, les géants du web comme Facebook, Google ou Twitter ont mis en place des règlements interdisant les deepfakes sur leurs plateformes. Mais la tâche est complexe.

Une course technologique contre la montre

Ces entreprises travaillent activement sur des technologies de détection automatique des deepfakes, mais elles sont encore balbutiantes face à la sophistication croissante des vidéos trafiquées. Une véritable course technologique est engagée entre les générateurs de deepfakes et les détecteurs de deepfakes !

Vers une collaboration dans l'industrie tech ?

Conscient des limites des approches individuelles, Meta (maison-mère de Facebook et Instagram) appelle de ses vœux une collaboration entre les différents acteurs de la tech pour mettre en place des standards communs et partager les technologies de détection des deepfakes. Mais certains critiquent l'approche autorégulatrice des géants du web et appellent à une intervention plus ferme des gouvernements face aux dangers des infox générées par IA.

Comment se prémunir contre la menace des deepfakes ?

Face à l'inquiétante propagation des deepfakes, il est plus que jamais nécessaire de développer notre esprit critique et notre culture du fact-checking.

Redoubler de vigilance

Il nous faut redoubler de vigilance avant de croire une vidéo qui circule en ligne. Qui en est la source ? Dans quel contexte a-t-elle été publiée ? Peut-on remonter à sa première publication ? Autant de questions à se poser.

Vérifier, comparer les sources

Plutôt que de prendre une vidéo pour argent comptant, il est plus que jamais vital de vérifier les infos, de recouper les sources, de comparer les différentes versions d'une même histoire avant de se faire une opinion.

Sensibiliser le grand public

Des campagnes de sensibilisation du grand public aux deepfakes et à la désinformation en ligne sont plus que jamais nécessaires. L'éducation aux médias et à l'information est cruciale face à la viralité des infox sur les réseaux sociaux. Alors, à vos esprits critiques ! Il en faudra face à cette nouvelle ère de "post-vérité visuelle" qui s'ouvre avec les progrès vertigineux de l'intelligence artificielle.