EMI | Techno mytho…
Vrai ou faux, la frontière est de plus en plus difficile à trouver. Les deepfakes, ces petites vidéos qui reprennent l'image la voix de quelqu'un pour leur faire dire ce que l'on veut sont les plus emblématiques de ces usages des technologies.
La frontière entre vraie et fausse information est de plus en plus poreuse et si les manipulations d'image (ou de son) ont toujours existé, elles sont de plus en plus vraisemblables même si aujourd'hui comme hier, elles finissent par être déjouées. Faut-il pour autant devenir techno-mytho ?
Dans ce module
Ces modules pourraient également vous intéresser
Info ou Intox
Algos
Décoder
La manipulationVous avez dit deepfake ?
Exemples
Qu'est-ce qu'un deap fake ?
Décryptage
L'émission CulturePubTV decrypte la vidéo. Jordan Peele détourne des propos de Barack Obama en faisant un deepfake pour dénoncer la manipulation de l'information.
Autres exemples
India Magazine
What is a "real fake" video ?
Caroline Chan
Tout le monde sait danser
Ctrl shift face
Jim Carrey DeepFake… ou pas
Les "faceApps"
Les "faceApps" permettent d'échanger et de modifier des visages à la volée.
L'échange de visage ou "Face Swapping" consiste à remplacer un visage par un autre…
Cela permet par exemple d'anonymiser automatiquement une photo de Google Earth, de remplacer la tête de votre chien par la vôtre, vous vieillir, sourire, mentir ou même faire dire ce que vous n'avez jamais dit. Mais cela permet aussi de produire des faux de plus en plus difficiles à détecter.
Ces visages n'existent pas !
:format(webp)/cdn.vox-cdn.com/uploads/chorus_image/image/63058104/fake_ai_faces.0.png)
Le site https://thispersondoesnotexist.com/ permet de générer des visages qui n'existent pas. C'est l’ère des « fake faces ».
A chaque actualisation de la page, un nouveau visage apparaît, combinaison de plusieurs autres, avatar humain, très humain…
Nvidia va désormais encore plus loin dans l'intelligence artificielle en proposant de transformer un croquis en paysage réaliste.
Comment ça marche ?
Les vidéos "deep fake" consistent à remplacer par ordinateur le visage d'une personne par celui d'une autre. Les mouvements de sa bouche sont calqués sur ceux de l'original pour lui prêter des propos qui ne sont pas les siens.
Solange Ghernaouti | UNIL Le 19h30 26 03 2018. RTS et les universités de Suisse romande précise que ce sont généralement les acteurs qui sont détournés, via un outil en accès libre à la portée de tous, aucune ligne de code n'est nécessaire.
Mais les dérives sont nombreuses, fausses nouvelles, faux film pronographiques, plus que jamais un décodage est nécessaire et une enquête plus poussée en cas de doute.
Comment les décrypter ?
La Méthode scientifique
L'émission "La méthode scientifique" sur France Culture propose, une fois par semaine, une heure de savoir autour des sciences, toutes les sciences, et sur les problématiques éthiques, politiques, économiques et sociales qui font l'actualité de la recherche.
Qu’appelle-t-on deepfake et comment ces fausses vidéos sont-elles fabriquées ? A quelles fins sont ou peuvent-être utilisés les deepfakes ? Comment peut-on contrôler la propagation des deepfake ?
Deepfake : faut-il le voir pour le croire ?
LA MÉTHODE SCIENTIFIQUE
Qu’appelle-t-on deepfake et comment ces fausses vidéos sont-elles fabriquées ? A quelles fins sont ou peuvent-être utilisés les deepfakes ? Comment peut-on contrôler la propagation des deepfake ?
Petit retour historique
La retouche d'images
La première photo "photoshopée"
Adobe Photoshop
John Knoll, l'un des fondateurs d'Adobe Photoshop, montre la première retouche photo qu'il avait effectuée, de celle qui deviendra son épouse sur une plage de Bora-Bora en 1987…
L'usage du logiciel Photoshop s'est tellement répandu que l'on parle désormais d'image "photoshopée".
Le détourage
PHLEARN
Un petit tutoriel qui montre la technique du détourage d'une personne ou d'un objet et quelques possibilités de modifications que cela permet.
Une application concrète
BOGGIE: NOUVEAU PARFUM
StudiolambPLUS
La chanteuse BOOGIE chante en timelapse pour dénoncer les retouches photos d’images.
Activité retouche d'images
Vrai-faux et faux vrais
Saurez-vous reconnaître les photos retouchées ?
Cliquez sur l'image ci-dessous pour accèder au site et faites le test vous-même.
25 photos pour les 25 ans de Photoshop, l'un des logiciels de retouche d'image les plus connus.
Pour chaque photo, il vous faudra répondre par oui ou non.
Topito
Le site Topito publie le top dix des photos retouchées de star. Un petit curseur permet d'afficher l'une ou l'autre version.
- Le cigare a disparu de la bouche de Winston Churchill
- Joseph Goebbels, pourtan un ami de Hitler a disparu
- Nikolai Yeshov, chef de la police secrète, a été effacé après s’être comporté de manière déloyale à l'égard de Staline
- Le visage d'Abraham Lincoln est remplaçé par celui de John Calhoun
La lecture d'images
De nombreux sites propose une éducation à la lecture d'image.
Parcours questions images médias
Des parcours d'initiation à la lecture de l'image proposés par MEDIAPTE : fonctionnement, perception, représentation, arts vidéos, médias…
Analyser une image
Proposée par Sciences Po et OpenClassrooms, cette fiche méthodologique, quatrième d’une série de neuf, donne, en vidéo et textes, les clés pour analyser une image.
Grille d'analyse
Grille d'analyse d'une image proposée par le RECIT (Réseau pour le développement des Compétences par l'Intégration des Technologies), Québec.
Montage son
La guerre des mondes
Orson Welles - War Of The Worlds - Radio Broadcast 1938 - Complete Broadcast
David Webb
Retour sur cette ce célèbre canular radioscopique.
30 octobre 1938. Un jeune et génial réalisateur de 23 ans, nommé Orson Welles, a adapté pour CBS La guerre des mondes, le livre de H. G. Wells. Orchestrant une interruption exceptionnelle des programmes, il met en scène sa fiction sonore comme un bulletin d'alerte, et annonce à l'antenne, à 20 h 15, que les Martiens ont débarqué dans le New Jersey !
Decryptage
Montage des questions (INA)
Pierre CARLES décrypte la fausse interview de Fidel Castro par Patrick Poivre d'Arvor et Régis Faucon en 1992. Les journalistes de TF1 ont enregistré des questions a posteriori et ont fait un montage avec des réponses données par Castro lors d'une conférence de presse à Cuba…
Candyvoice
CANDYVOICE est une société française spécialisée dans le traitement numérique de la voix. Cette technologie permet par exemple personnaliser très facilement les voix des robots, de redonner une voix à ceux qui l’ont perdue pour des raisons médicales…
Activité Deap voice
Rendez vous sur le site candyvoice et testez différentes voix.
Par exemple celles d'Emmanuel Macron, de B. Obama, d'Elizabeth II...
Qu'en pensez-vous ?
Comment démasquer les faux ?
Photorensics
Photorensics est un site en ligne qui vous permet d'analyser une photo afin de savoir si elle a fait l'objet de retouches ou de montages.
L'on voit, par exemple sur l'image ci-dessous en appliquant le filtre ELA, le détourage qui a été effectué.
Pour cela, le site analyse les différents niveaux de compression d’une image afin d’en faire ressortir les éventuelles modifications. A chaque retouche le niveau de compression est dégradé et cela se voit. Vous pouvez également accèder aux métadonnées de la photo.
Les observateurs France 24
Diffuser une intox ne nécessite pas forcément d’avoir de grands talents informatiques : souvent, le simple recadrage d’une photo ou d’une vidéo peut créer la confusion sur les réseaux sociaux. Ce guide de vérification vous aidera à y voir plus clair.
TineEye
Tineye est un moteur de recherche inversé qui permet de chercher une image dans un index qui en contient plus de 33,5 milliards.
Entrez l'URL d'une image ou glissez-déposez-là dans le champ de recherche et vous trouverez toutes ses utilisations.
Pour aller plus loin !
La réalisation d'un deepfake expliquée
Fonctionnement
DeepFakes Explained
Siraj Raval
Une explication détaillée (en anglais) avec les liens vers les fichiers sources pour comprendre à la fois comment fonctionne la programmation et la théoriquement. Deux réseaux neuronaux collaborent. Un encodeur essaye de reconnaître un visage. Le décodeur essaye ensuite de le reconstruire. A partir de 2 jeux de données d'images, il s'agit donc de reconstruise l'image A à l'aide du décodeur de l'image B
Le Monde fait le test
« N’importe qui serait capable de fabriquer un deepfake. Vraiment ?
Les inquiétudes liées à cette technologie d’intelligence artificielle, qui permet de remplacer un visage par un autre dans une vidéo, sont en partie liées au fait qu’elle serait accessible à tous – ce qui dessinerait un avenir où chacun pourrait diffuser des vidéos modifiées, faisant dire n’importe quoi à n’importe qui.
Nous avons donc tenté d’en fabriquer, afin de vérifier s’il est aujourd’hui si simple d’en créer. Le cobaye : l’autrice de ces lignes, relativement dégourdie du clavier, mais sans qualification supplémentaire. Le test : remplacer Jean Dujardin par Emmanuel Macron dans une séquence d’OSS 117, parce que pourquoi pas. »
Ressources
25 vraies/fausses idées en science
« Sciences pour tous » est un livre à télécharger et offert par « Sciences pour tous » qui a pour but de connaître les ouvrages de sciences, mais surtout à se familiariser avec le monde des sciences.
Voir également le module esprit critique
Voir également le module décoder
Logiciels et apps deapfake
DeepFaceLab
Open-source deepfake system.
MachineTub