Retour à la page d'accueil

EMI | Techno mytho…

deapt Vrai ou faux, la frontière est de plus en plus difficile à trouver. Les deepfakes, ces petites vidéos qui reprennent l'image la voix de quelqu'un pour leur faire dire ce que l'on veut sont les plus emblématiques de ces usages des technologies.

La frontière entre vraie et fausse information est de plus en plus poreuse et si les manipulations d'image (ou de son) ont toujours existé, elles sont de plus en plus vraisemblables même si aujourd'hui comme hier, elles finissent par être déjouées. Faut-il pour autant devenir techno-mytho ?

Vous avez dit deepfake ?

Exemples

Qu'est-ce qu'un deap fake ?

Décryptage

L'émission CulturePubTV decrypte la vidéo. Jordan Peele détourne des propos de Barack Obama en faisant un deepfake pour dénoncer la manipulation de l'information.

Arte

Autres exemples

India Magazine

What is a "real fake" video ?

Caroline Chan

Tout le monde sait danser

Ctrl shift face

Jim Carrey DeepFake… ou pas

Les "faceApps"

Les "faceApps" permettent d'échanger et de modifier des visages à la volée.

L'échange de visage ou "Face Swapping" consiste à remplacer un visage par un autre…
Cela permet par exemple d'anonymiser automatiquement une photo de Google Earth, de remplacer la tête de votre chien par la vôtre, vous vieillir, sourire, mentir ou même faire dire ce que vous n'avez jamais dit. Mais cela permet aussi de produire des faux de plus en plus difficiles à détecter.

Ces visages n'existent pas !

visage

Le site https://thispersondoesnotexist.com/ permet de générer des visages qui n'existent pas. C'est l’ère des « fake faces ».

A chaque actualisation de la page, un nouveau visage apparaît, combinaison de plusieurs autres, avatar humain, très humain…

Plus d'infos.

Nvidia va désormais encore plus loin dans l'intelligence artificielle en proposant de transformer un croquis en paysage réaliste.

source : http://www.culturepub.fr/

Comment ça marche ?

RTS et les universités de Suisse romandeLes vidéos "deep fake" consistent à remplacer par ordinateur le visage d'une personne par celui d'une autre. Les mouvements de sa bouche sont calqués sur ceux de l'original pour lui prêter des propos qui ne sont pas les siens.

Solange Ghernaouti | UNIL Le 19h30 26 03 2018. RTS et les universités de Suisse romande précise que ce sont généralement les acteurs qui sont détournés, via un outil en accès libre à la portée de tous, aucune ligne de code n'est nécessaire.

Mais les dérives sont nombreuses, fausses nouvelles, faux film pronographiques, plus que jamais un décodage est nécessaire et une enquête plus poussée en cas de doute.

Comment les décrypter ?

La Méthode scientifique

L'émission "La méthode scientifique" sur France Culture propose, une fois par semaine, une heure de savoir autour des sciences, toutes les sciences, et sur les problématiques éthiques, politiques, économiques et sociales qui font l'actualité de la recherche.

Qu’appelle-t-on deepfake et comment ces fausses vidéos sont-elles fabriquées ? A quelles fins sont ou peuvent-être utilisés les deepfakes ? Comment peut-on contrôler la propagation des deepfake ?

Deepfake : faut-il le voir pour le croire ?

LA MÉTHODE SCIENTIFIQUE

Qu’appelle-t-on deepfake et comment ces fausses vidéos sont-elles fabriquées ? A quelles fins sont ou peuvent-être utilisés les deepfakes ? Comment peut-on contrôler la propagation des deepfake ?

Nicolas Martin. France Culture

Petit retour historique

La retouche d'images

La première photo "photoshopée"

Adobe Photoshop

John Knoll, l'un des fondateurs d'Adobe Photoshop, montre la première retouche photo qu'il avait effectuée, de celle qui deviendra son épouse sur une plage de Bora-Bora en 1987…

L'usage du logiciel Photoshop s'est tellement répandu que l'on parle désormais d'image "photoshopée".

Le détourage

PHLEARN

Un petit tutoriel qui montre la technique du détourage d'une personne ou d'un objet et quelques possibilités de modifications que cela permet.

Une application concrète

BOGGIE: NOUVEAU PARFUM

StudiolambPLUS

La chanteuse BOOGIE chante en timelapse pour dénoncer les retouches photos d’images.

Activité retouche d'images

Vrai-faux et faux vrais

Saurez-vous reconnaître les photos retouchées ?

Cliquez sur l'image ci-dessous pour accèder au site et faites le test vous-même.

25 photos pour les 25 ans de Photoshop, l'un des logiciels de retouche d'image les plus connus.

Pour chaque photo, il vous faudra répondre par oui ou non.

Avant / après
Avant après
Topito

Le site Topito publie le top dix des photos retouchées de star. Un petit curseur permet d'afficher l'une ou l'autre version.

4 photos historiques retouchées
Avant Après
Avant Après
Avant Après
Avant Après
  • Le cigare a disparu de la bouche de Winston Churchill
  • Joseph Goebbels, pourtan un ami de Hitler a disparu
  • Nikolai Yeshov, chef de la police secrète, a été effacé après s’être comporté de manière déloyale à l'égard de Staline
  • Le visage d'Abraham Lincoln est remplaçé par celui de John Calhoun

La lecture d'images

De nombreux sites propose une éducation à la lecture d'image.

Parcours questions images médias

Des parcours d'initiation à la lecture de l'image proposés par MEDIAPTE : fonctionnement, perception, représentation, arts vidéos, médias…

Analyser une image

Proposée par Sciences Po et OpenClassrooms, cette fiche méthodologique, quatrième d’une série de neuf, donne, en vidéo et textes, les clés pour analyser une image.

Grille d'analyse

Grille d'analyse d'une image proposée par le RECIT (Réseau pour le développement des Compétences par l'Intégration des Technologies), Québec.

Montage son

La guerre des mondes

Orson Welles - War Of The Worlds - Radio Broadcast 1938 - Complete Broadcast

David Webb

Retour sur cette ce célèbre canular radioscopique.
30 octobre 1938. Un jeune et génial réalisateur de 23 ans, nommé Orson Welles, a adapté pour CBS La guerre des mondes, le livre de H. G. Wells. Orchestrant une interruption exceptionnelle des programmes, il met en scène sa fiction sonore comme un bulletin d'alerte, et annonce à l'antenne, à 20 h 15, que les Martiens ont débarqué dans le New Jersey !

Decryptage
Montage des questions (INA)

Pierre CARLES décrypte la fausse interview de Fidel Castro par Patrick Poivre d'Arvor et Régis Faucon en 1992. Les journalistes de TF1 ont enregistré des questions a posteriori et ont fait un montage avec des réponses données par Castro lors d'une conférence de presse à Cuba…

Candyvoice

CANDYVOICE est une société française spécialisée dans le traitement numérique de la voix. Cette technologie permet par exemple personnaliser très facilement les voix des robots, de redonner une voix à ceux qui l’ont perdue pour des raisons médicales…

Activité Deap voice

Rendez vous sur le site candyvoice et testez différentes voix.
Par exemple celles d'Emmanuel Macron, de B. Obama, d'Elizabeth II...

Qu'en pensez-vous ?

Comment démasquer les faux ?

Photorensics

Fotorensis Photorensics est un site en ligne qui vous permet d'analyser une photo afin de savoir si elle a fait l'objet de retouches ou de montages.
L'on voit, par exemple sur l'image ci-dessous en appliquant le filtre ELA, le détourage qui a été effectué.

Fotorensis

Pour cela, le site analyse les différents niveaux de compression d’une image afin d’en faire ressortir les éventuelles modifications. A chaque retouche le niveau de compression est dégradé et cela se voit. Vous pouvez également accèder aux métadonnées de la photo.

fotoforensics.com/

Les observateurs France 24

France 24

Diffuser une intox ne nécessite pas forcément d’avoir de grands talents informatiques : souvent, le simple recadrage d’une photo ou d’une vidéo peut créer la confusion sur les réseaux sociaux. Ce guide de vérification vous aidera à y voir plus clair.

observers.france24.com/

TineEye

tineyeTineye est un moteur de recherche inversé qui permet de chercher une image dans un index qui en contient plus de 33,5 milliards.
Entrez l'URL d'une image ou glissez-déposez-là dans le champ de recherche et vous trouverez toutes ses utilisations.

www.tineye.com/

Pour aller plus loin !

La réalisation d'un deepfake expliquée

Fonctionnement

DeepFakes Explained

Siraj Raval

Une explication détaillée (en anglais) avec les liens vers les fichiers sources pour comprendre à la fois comment fonctionne la programmation et la théoriquement. Deux réseaux neuronaux collaborent. Un encodeur essaye de reconnaître un visage. Le décodeur essaye ensuite de le reconstruire. A partir de 2 jeux de données d'images, il s'agit donc de reconstruise l'image A à l'aide du décodeur de l'image B

Le Monde fait le test

Le Monde fait le test

« N’importe qui serait capable de fabriquer un deepfake. Vraiment ?

Les inquiétudes liées à cette technologie d’intelligence artificielle, qui permet de remplacer un visage par un autre dans une vidéo, sont en partie liées au fait qu’elle serait accessible à tous – ce qui dessinerait un avenir où chacun pourrait diffuser des vidéos modifiées, faisant dire n’importe quoi à n’importe qui.

Nous avons donc tenté d’en fabriquer, afin de vérifier s’il est aujourd’hui si simple d’en créer. Le cobaye : l’autrice de ces lignes, relativement dégourdie du clavier, mais sans qualification supplémentaire. Le test : remplacer Jean Dujardin par Emmanuel Macron dans une séquence d’OSS 117, parce que pourquoi pas. »

www.lemonde.fr/

Le Monde fait le test

Ressources

25 vraies/fausses idées en science

Sciences pour tous « Sciences pour tous » est un livre à télécharger et offert par « Sciences pour tous » qui a pour but de connaître les ouvrages de sciences, mais surtout à se familiariser avec le monde des sciences.

media.fetedelascience.fr/
module esprit critiqueVoir également le module esprit critique
decoderVoir également le module décoder

Logiciels et apps deapfake

DeepFaceLab

Open-source deepfake system.

github.com/iperov/DeepFaceLab

MachineTub

www.machine.tube/