Vous êtes ici

Fake News et Deepfakes. Quand la recherche passe l’information au crible …

 

Faut-il s’inquiéter des Fake News et des Deepfakes ? Peut-on les repérer et comment s’en protéger ? Comment l'équipe de recherche LinkMedia passe-t-elle au crible l’information ? Quelles solutions les chercheurs de l’IRISA explorent-ils  pour lutter contre la désinformation.

 

fakenewsvignette.jpgQu'est-ce que les Fake News et comment les détecter ?

Une Fake News ou littéralement fausse information, est une information falsifiée volontairement. Cousine de la propagande ou de la rumeur, les fake News se répandent très vite grâce à la puissance d’internet et par l’utilisation des réseaux sociaux. À l’IRISA, au sein de l’équipe de recherche LinkMedia, des spécialistes explorent les solutions pour lutter contre cette désinformation.

Parmi eux, le travail de recherche de Vincent Claveau, chercheur CNRS et spécialiste dans le traitement automatique des langues dans l’équipe LinkMedia, consiste à repérer si un article provient d’un site d’informations officielles ou d’un site de ré-information - site dont le but est de basculer dans la désinformation - par l'analyse du langage avec des algorithmes d’apprentissage automatique. L’utilisation d'algorithmes permet de repérer et de trier les éléments du langage tels que l’emploi de certains mots (« vérité », « ce qu'on vous cache »), de pronoms personnels (« je », « nous »), utilisation de ponctuation, etc…
Ses recherches obtiennent de très bons résultats, avoisinant les 89% pour les articles français et 85 % pour les articles anglais.

Un autre axe - développé avec la collaboration d’Ewa Kijak de l’équipe de recherche LinkMedia et maître de conférence (Université de Rennes 1) - est d’identifier les images modifiées.
A partir d’une base de données, l’algorithme recherche l’existence d’une image similaire et compare leurs différences à partir de représentations vectorielles. Le calcul de la différence entre les deux images permet d’identifier les zones modifiées et les retouches effectuées.

Vincent Claveau et Ewa Kijak développent une technique d’analyse de décontextualisation des images : d’une part l’algorithme décrypte les caractéristiques des images et d’autre part, elle analyse le texte qui y est associé.

 

Et que sont les Deepfakes ?

Depuis quelques années, apparaissent ce qu’on appelle les deepfakes, contraction de « deep learning » et de « fake ». Ces vidéos falsifiées mais ultra réalistes  sont capables de modifier le discours d’une personne, de remplacer sa tête par une autre, voire même d’intégrer cette personne dans un autre contexte, tout en respectant sa gestualité, sa tonalité de voix et en gommant toutes les imperfections détectables à l’œil nu.

Jusqu’à présent, ces deepfakes n’avaient visé que des personnalités publiques dont on utilisait le visage pour l’intégrer dans des films pornographiques. Aujourd’hui la crainte de voir ces fausses vidéos utilisées comme un redoutable outil de désinformation inquiète de plus en plus.

En effet, ces vidéos ne requièrent que peu de compétences particulières mais nécessite une importante banque de photos.

Dans un but d’alerte et d’incitation à la prudence, le média anglophone BuzzFeed et l’acteur Jordan Peele ont d’ailleurs délibérément fait le buzz en créant et diffusant une fausse vidéo (vue plus de 5 millions de fois) mettant en scène Barack Obama « traitant l’actuel président d’idiot total et absolu ».

Face à cette nouvelle menace des Deepfakes, les chercheurs de l’équipe Linkmedia développent de la même manière deux axes semblables et complémentaires de décontextualisation. Le premier consiste donc à rechercher des traces de modifications de l’image et le deuxième est une approche multimodale décryptant le discours par rapport au style et au thème abordé.

 

En parallèle de cette propagation de fausses informations, de nombreux organes de presse,  se dotent de cellules d’investigations informatiques pour augmenter la vérification et l'analyse de l’information.

L’équipe de recherche LinkMedia travaille ainsi sur différents projets pour aider à décrypter et à analyser les quantités d’informations à traiter.

Vincent Claveau a, à quelques jours du retour sur le Grand débat national, apporté son expertise à Ouest France. A partir des contributions déposées en ligne, le journal s’est penché sur la façon dont étaient perçus les services publics. Le moyen utilisé fut le logiciel TermEx développé par le chercheur. Cet outil est un extracteur de termes multi-mots mêlant des techniques de Traitement Automatique des Langues et de Recherche d'Information. L’objectif était d’apporter, en parallèle d’une lecture détaillée des contributions, une idée du contenu par une représentation de nuages de mots.

Il est permis de comparer ce travail de recherche au jeu du chat et de la souris  entre les chercheurs traquant la faille et les webmasters la perfectionnant au fur et à mesure …


 

 

Plus d’informations : 
Site web de Vincent Claveau 
Site web d’Ewa Kijak
Site web de l’équipe de recherche LinkMedia 
 

Revue de presse sur le travail des chercheurs Vincent Claveau et Ewa Kijak (depuis janvier 2019) :


Retrouver l’ensemble de notre revue de presse sur le site de l’IRISA