Blog

L’hypertrucage: une grave menace pour notre sécurité et la démocratie

21 février 2020 by Lyonel Kaufmann

Grâce aux techniques d’hypertrucage, Loto-Québec a réussi à transformer un comédien en Bernard Derome des années 70 pour une publicité. Loto-Québec Nadia Naffi, Université Laval

L’utilisation de l’hypertrucage peut parfois nous enchanter ou nous étourdir par le biais de ses représentations expertes dans les industries du divertissement et des jeux et dans les campagnes de marketing comme celle de la récente publicité de Loto-Québec.

Mais le sinistre visage de cet hypertrucage, ou deepfakes, une forme de désinformation qui utilise des algorithmes d’apprentissage automatique pour créer des enregistrements audio et vidéo de personnes réelles prononçant et exécutant des choses qu’elles n’ont jamais dites ou faites, est une menace sérieuse pour la sécurité des personnes et la démocratie.

Aujourd’hui, tout le monde peut créer ses propres fausses nouvelles et les diffuser. La propagande en ligne est plus trompeuse et plus manipulatrice que jamais.

Les deepfakes sont en train de devenir rapidement impossibles à distinguer de la réalité.

Il est plus urgent que jamais de détecter la désinformation alimentée par des utilisations non éthiques des médias numériques, des données massives et de l’intelligence artificielle, et leur diffusion par les médias sociaux.

Les pays doivent éduquer et équiper leurs citoyens. Les éducateurs doivent également relever de réels défis pour aider les jeunes à développer leur discernement face aux deepfakes. Pire, si les jeunes manquent de confiance pour trouver et évaluer des informations publiques fiables, leur motivation à participer à notre société démocratique ou à s’y fier sera de plus en plus menacée.

Saper la démocratie

Il est maintenant possible de générer une vidéo d’une personne qui parle et fait des expressions faciales à partir de quelques images ou même d’une seule image du visage de cette personne. Les applications « face swap » qui consistent à permuter des visages telles que FaceApp ou Zao et les applications de synchronisation labiale telles que Dubsmash sont des exemples d’outils de base accessibles et conviviaux que les gens peuvent utiliser sans aucune connaissance en matière de programmation ou de codage.

Le potentiel d’utilisation des deepfakes comme arme augmente de manière alarmante et des dommages importants peuvent être anticipés puisque n’importe qui peut créer des contenus explicites sans le consentement d’autrui.

On s’attend à ce que les gens utilisent les deepfakes pour faire du cyberharcèlement, détruire des réputations, faire du chantage, diffuser des discours de haine, inciter à la violence, perturber les processus démocratiques, diffuser des désinformations à des publics ciblés et commettre des cybercrimes et des fraudes.

Danielle Citron, professeur à la Faculté de Droit de l’Université de Boston, explique comment les deepfakes sapent la vérité et menacent la démocratie.

Détection des deepfakes

Il y a plus de dix ans, l’analyste Internet et spécialiste des nouveaux médias Clay Shirky a déclaré que « La seule véritable façon de mettre fin au spam est d’arrêter la communication par e-mail ». La fermeture d’Internet serait-t-elle le seul moyen de mettre fin à la propagande des deepfakes en 2020 ?

Les principaux acteurs se sont aventurés à trouver une réponse aux menaces des hypertrucages.

Facebook a annoncé le 6 janvier qu’elle « renforcera sa politique à l’égard des vidéos manipulées trompeuses qui ont été identifiées comme des deepfakes ». L’entreprise affirme qu’elle supprimera les médias manipulés qui ont été « édités ou synthétisés – au-delà des ajustements pour la clarté ou la qualité – d’une manière qui n’est pas apparente pour le public » et si les médias sont « le produit de l’intelligence artificielle ou de l’apprentissage automatique qui fusionne, remplace ou superpose le contenu d’une vidéo, le faisant apparaître comme authentique ».

Facebook a annoncé le 6 janvier qu’il supprimera les vidéos montées pour induire en erreur de manière « non apparente pour une personne moyenne » et qui sont le produit de l’IA ou de l’apprentissage machine. Ici, le PDG de Facebook, Mark Zuckerberg, témoigne lors d’une audition à la commission des services financiers de la Chambre des représentants des États-Unis au Capitole à Washington, en octobre 2019. AP Photo/Andrew Harnik

La nouvelle fait suite au deepfake challenge de Facebook, qui vise à concevoir de nouveaux outils pour détecter les contenus médiatiques manipulés. Ce défi est soutenu par Microsoft, un consortium sur l’intelligence artificielle et un fonds de 10 millions de dollars.

À la fin octobre, le PDG de Facebook, Mark Zuckerberg, a témoigné lors d’une audition de la commission des services financiers de la Chambre des représentants des États-Unis à Washington sur les plans de cryptomonnaie de la société, où M. Zuckerberg a été confronté à des questions sur ce que la société fait pour empêcher les deepfakes.

L’Agence des projets de recherche avancée de la Défense (DARPA) du Département Américain de la Défense travaille sur l’utilisation de types d’algorithmes spécifiques pour évaluer l’intégrité des médias visuels numériques.

Certains chercheurs discutent de l’utilisation des réseaux neuronaux convolutionnels – un ensemble d’algorithmes qui reproduit approximativement le cerveau humain, conçu pour analyser l’imagerie visuelle et reconnaître les modèles – pour détecter les incohérences entre les multiples trames dans les deepfakes. D’autres proposent des algorithmes pour détecter les visages entièrement générés par la machine.

Hani Farid, expert en informatique légale et judiciaire et l’une des principales autorités en matière de détection de fausses photos, et son étudiante Shruti Agarwal de l’Université de Californie à Berkeley développent un logiciel qui utilise les caractéristiques subtiles de la façon dont une personne parle pour distinguer cette personne de la version contrefaite.

Farid collabore également très étroitement avec Hao Li, pionnier d’ hypertrucage, pour faire face au problème croissant de l’hypertrucage à la portée de la main.

La communauté juridique canadienne a publié des articles qui détaillaient des motifs d’action pour contrer la menace de de l’hypertrucage

La nation de YouTube

Et si nous nous réveillions demain matin avec un faux-semblant de Greta Thunberg, la personnalité de l’année 2019 du magazine Time, accusant une organisation spécifique d’être le principal catalyseur du changement climatique ? Est-ce que les jeunes seraient sceptiques face à cette information ?

Nous vivons dans une ère numérique où beaucoup de gens s’attendent à ce que chaque réponse soit trouvée par une recherche sur Google, une vidéo sur YouTube ou Vimeo ou un discours sur TED. À peu près tous les jeunes Canadiens âgés de 15 à 24 ans utilisent l’internet quotidiennement. La plupart suivent les nouvelles par le biais des médias sociaux comme Facebook, Twitter et Instagram.

En 2017, 90 pour cent des Canadiens âgés de 18 à 24 ans étaient des utilisateurs actifs de YouTube.

Selon Statista, une société qui fournit des données sur le marché et les consommateurs, « en mai 2019, plus de 500 heures de vidéo étaient téléversées sur YouTube chaque minute », ce qui équivaut à « environ 30 000 heures de contenu nouvellement téléchargé par heure ». La société rapporte qu’entre 2014 et 2019, « le nombre d’heures de contenu vidéo téléversé toutes les 60 secondes a augmenté d’environ 40 pour cent ».

De nombreux utilisateurs des médias sociaux âgés de 18 à 24 ans reconnaissent aujourd’hui les agendas et les algorithmes qui se cachent derrière les messages qui s’affichent sur leurs murs. Dans le cadre de ma thèse de doctorat, j’ai étudié comment 42 participants de ce groupe d’âge comprenaient les réfugiés dans un contexte où leur image était profondément influencée par la propagande des médias sociaux, les fausses nouvelles et la désinformation. J’ai découvert que beaucoup d’entre eux avaient envie de devenir des influenceurs et de perturber les commentaires publics et les messages générés par les médias, ce qui est fait écho aux campagnes de sensibilisation ou d’activisme menées aujourd’hui par les jeunes.

Le phénomène des fausses nouvelles est un nouveau défi critique auquel les jeunes et tous les participants à notre démocratie sont confrontés.

L’éducation pour la résilience

Au Canada, Journalistes pour le droits humains (JDH) a annoncé un nouveau programme, financé par Héritage Canada, pour former les journalistes et « lutter contre la désinformation par le renforcement des médias et l’état de préparation des citoyens au Canada ».

Les éducateurs peuvent jouer un rôle clé dans la lutte contre la fausse nouvelle. L’un de leurs défis consiste à s’assurer que les jeunes développent des compétences critiques en matière d’éducation aux médias tout en continuant à explorer des ressources crédibles en ligne et à renforcer leurs capacités et leurs connaissances pour participer aux structures démocratiques.

Les éducateurs peuvent suivre les étapes que j’ai identifiées dans le modèle « Get Ready to Act Against Social Media Propaganda ». En commençant par expliquer les positions sur un sujet controversé ciblé par la propagande des médias sociaux, les éducateurs peuvent aider les jeunes à discuter de la façon dont ils perçoivent et reconnaissent les deepfakes. Ils peuvent explorer les origines du contenu, les personnes ciblées, la réaction que ce contenu suscite et les personnes qui le soutiennent.

Les éducateurs peuvent également discuter du rôle et de la responsabilité des jeunes pour répondre et s’opposer à la désinformation. Ils peuvent identifier des stratégies numériques potentielles à poursuivre dans ce processus. Une génération de citoyens numériques bien équipée pourrait être notre meilleure chance.

Nadia Naffi, Assistant Professor, Educational Technology, Holds the Chair in Educational Leadership in the Sustainable Transformation of Pedagogical Practices in Digital Contexts, Université Laval

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Education Maker : Éloge du carburateur de Matthew B. Crawford

18 février 2020 by Lyonel Kaufmann

Dans « Eloge du Carburateur. Essai sur le sens et la valeur du travail », Matthew B. Crawford restitue l’expérience de ceux qui, comme lui, s’emploient à fabriquer ou à réparer des objets. Cet ouvrage entre en écho avec les tenants du Maker en éducation. Il remet aussi en perspective les origines de la dichotomie entre travail manuel et travail intellectuel. A ce titre, outre le fait que c’est un passionné de moto, sa lecture est intéressante pour replacer philosophiquement le mouvement Maker éducatif. Je vous en propose quelques extraits.

Extrait 1 : origine de la dichotomie entre travail manuel et travail intellectuel

« L’émergence de la dichotomie entre travail manuel et travail intellectuel n’a rien de spontané. On peut au contraire estimer que le XXe siècle s’est caractérisé par des efforts délibérés pour séparer le faire du penser. Ces efforts ont largement été couronnés de succès dans le domaine de la vie économique, et c’est sans doute ce succès qui explique la plausibilité de cette distinction. Mais dans ce cas, la notion même de « succès » est profondément perverse, car partout où cette séparation de la pensée et de la pratique a été mise en œuvre, il s’en est suivi une dégradation du travail. »

— Éloge du carburateur (POCHES ESSAIS t. 440) de Matthew B. CRAWFORD

http://amzn.eu/6hdwkwX

Extrait 2 : fondements d’une nouvelle anthropologie sur l’agir humain

« Ce qui revient à poser les fondements d’une nouvelle anthropologie, susceptible d’éclairer notre expérience de l’agir humain. Son objectif serait d’analyser l’attrait du travail manuel sans tomber dans la nostalgie ou l’idéalisation romantique, mais en étant simplement capable de reconnaître les mérites des pratiques qui consistent à construire, à réparer et à entretenir les objets matériels en tant que facteurs d’épanouissement humain. »

— Éloge du carburateur (POCHES ESSAIS t. 440) de Matthew B. CRAWFORD

http://amzn.eu/6CPIBNK

Extrait 3 : pensée et action

« Si la pensée est intimement liée à l’action, alors la tâche de saisir adéquatement le monde sur le plan intellectuel dépend de notre capacité d’intervenir sur ce monde. Et c’est bien le cas : pour vraiment connaître une paire de lacets, il vous faut faire l’expérience de les attacher. »

— Éloge du carburateur (POCHES ESSAIS t. 440) de Matthew B. CRAWFORD

http://amzn.eu/haqFQIr

Extrait 4 : ordinateur et esprit humain

« Aussi, lorsqu’un prophète de la société postindustrielle part de l’idée que les systèmes complexes se caractérisent par « l’interaction d’un nombre de variables trop élevé pour que l’esprit puisse les appréhender simultanément et dans un ordre adéquat » et en tire la conclusion qu’« on doit avoir recours à des algorithmes plutôt qu’à des jugements intuitifs dans le processus de décision », il juge indûment le fait que l’esprit humain ne fonctionne pas de la même façon qu’un ordinateur comme une preuve de déficience. C’est là une forme de raisonnement qui semble trahir un préjugé irrationnel à l’encontre des êtres humains. Car en réalité, un esprit humain bien entraîné peut être particulièrement doué pour capter les indices émis par un édifice en feu, jouer aux échecs, déparasiter les circuits électriques d’un véhicule ou Dieu sait quoi encore. »

— Éloge du carburateur (POCHES ESSAIS t. 440) de Matthew B. CRAWFORD

http://amzn.eu/akxU2Me

Concernant Matthew B. Crawford

Matthew B. Crawford est philosophe et réparateur de motos (ou réparateur de motos et philosophe). Il vit à Richmond et enseigne à l’université de Virginie. Matthew B. Crawford était un brillant universitaire, bien payé pour travailler dans un think-tank à Washington. Au bout de quelques mois, déprimé, il démissionne pour ouvrir… un atelier de réparation de motos. À partir du récit de son étonnante reconversion professionnelle, il livre dans cet ouvrage intelligent et drôle l’une des réflexions les plus fines sur le sens et la valeur du travail dans les sociétés occidentales.

Présentation d’Eloge du carburateur par son éditeur

Mêlant anecdotes, récit, et réflexions philosophiques et sociologiques, Matthew B. Crawford montre que ce « travail intellectuel », dont on nous rebat les oreilles depuis que nous sommes entrés dans l’« économie du savoir », se révèle pauvre et déresponsabilisant. De manière très fine, à l’inverse, il restitue l’expérience de ceux qui, comme lui, s’emploient à fabriquer ou à réparer des objets – ce qu’on ne fait plus guère dans un monde où l’on ne sait plus rien faire d’autre qu’acheter, jeter et remplacer. Il montre que le travail manuel peut même se révéler beaucoup plus captivant d’un point de vue intellectuel que tous les nouveaux emplois de l’« économie du savoir ».

Pour acheter l’ouvrage : https://www.editionsladecouverte.fr/catalogue/index-__loge_du_carburateur-9782707181978.html

États-Unis.“Qui a tué Malcolm X ?” Un documentaire Netflix provoque la réouverture de l’enquête

12 février 2020 by Lyonel Kaufmann

Cinquante-cinq ans après l’assassinat à Harlem du célèbre militant des droits civiques, pour lequel trois membres du groupe politico-religieux Nation of Islam ont été condamnés en 1966, un documentaire diffusé sur Netflix sème le doute sur l’identité des coupables. À tel point que l’enquête est sur le point d’être rouverte, relatent les médias américains.

La bande-annonce :

Source : États-Unis.“Qui a tué Malcolm X ?” Un documentaire Netflix provoque la réouverture de l’enquête

Crédit photo : copie écran du documentaire Qui a tué Malcom X ?de Netflix, sorti le 7 février 2020

Public History : Désinformation, banalisation et plagiat

6 février 2020 by Lyonel Kaufmann

Résumé : Cette article de Public History Weekly traite des avantages et des inconvénients de la pratique de l’histoire publique, en particulier en ligne. Le thème sous-jacent est que les avantages de la culture numérique qui prévaut dans l’histoire publique peuvent finir par aller à l’encontre du « bien commun ». Une autre dimension est que les processus participatifs – qui prévalent également dans l’environnement Internet – limitent la paternité exclusive et facilitent le plagiat. Les chercheurs tentent d’historiser ces derniers phénomènes et d’évaluer si l’utilisation des médias numériques signifie une transition vers un nouveau paradigme de la propriété intellectuelle.

To conclude, we attempt to offer an account of the opportunities and the constraints provided by the relatively recent prevalence of public history. We think that because of the digital mass media and the internet the public role of historians has been augmented as compared with past periods. More people can therefore participate in sense-making processes as regards the past, and in public too. (…) People are having increased access to digital material – the question he asks is how many have real access to their meaning too? In the end, history is not about the sources but about making sense of them.

Référence : Apostolidou, Eleni: Misinformation, Trivialization, and Plagiarism. In: Public History Weekly 8 (2020) 2, DOI: dx.doi.org/10.1515/phw-2020-14894.

Neandertal est en chacun de nous

4 février 2020 by Lyonel Kaufmann

Les métissages entre l’homme de Neandertal et « Homo sapiens » ont laissé des traces dans le génome de l’ensemble de la population humaine actuelle, et pas seulement chez les non Africains, comme on le supposait.

En 2010, l’ébauche de la séquence du génome de l’homme de Neandertal avait créé la surprise : l’analyse de l’ADN ancien de trois individus révélait que ce cousin disparu avait croisé Homo sapiens et que cette rencontre avait été féconde, puisqu’une partie du génome néandertalien se retrouvait dans celui des populations actuelles non africaines : de 1 % à 4 % de leur ADN était un héritage néandertalien. Cette estimation, qui s’est depuis affinée pour parvenir à une moyenne de 2 % d’ADN néandertalien, était en partie fondée sur l’hypothèse qu’aucun métissage n’avait pu intervenir avec des populations anciennes africaines, et que le génome de celles-ci pouvait servir de base de comparaison « neutre ».

C’était compter sans la bougeotte consubstantielle à Homo sapiens : cette hypothèse était erronée, et il y a bien aussi une part de Neandertal chez les Africains d’aujourd’hui, comme « dans chaque population humaine moderne étudiée à ce jour », conclut une étude qui sera publiée le 20 février dans la revue Cell. Joshua Akey (université de Princeton) et ses collègues ont développé une méthode probabiliste d’analyse génétique pour parvenir à cette conclusion et éclairer cette « histoire partagée » avec Neandertal. Elle leur a précisément permis de s’affranchir d’une des limites des comparaisons utilisées précédemment, dépendantes d’un génome africain « de référence » dans lequel l’héritage néandertalien était supposé négligeable.

Comment l’expliquer ? Pas par un croisement direct qui serait intervenu entre des Néandertaliens et des populations africaines, estiment les chercheurs, mais plutôt par le retour en Afrique d’Homo sapiens européens, qui étaient, eux, porteurs d’ADN néandertalien du fait de croisements intervenus antérieurement. Autre enseignement précieux : une première sortie d’Afrique d’Homo sapiens, il y a environ 200 000 ans, aurait donné lieu à des croisements avec des Néandertaliens. Mais pas à une descendance sapiens durable en Europe. C’est lors d’une sortie d’Afrique plus récente que notre espèce se serait vraiment répandue en Eurasie et à nouveau métissée avec Neandertal. Par le jeu de migrations ultérieures, cet ADN « néandertalien » serait parvenu en Afrique.

-A lire : Neandertal est en chacun de nous | Le Monde

Salut d’Auschwitz – Libération

30 janvier 2020 by Lyonel Kaufmann

Cette semaine est consacrée aux Journées de la mémoire pour la prévention des crimes contre l’humanités. A l’approche et durant celles-ci, elle donneront lieu dans les médias à des articles nécessaires concernant soit les témoins encore vivants et la nécessité de la transmission de leur mémoire et de cette histoire européenne, soit aux questions relatives à la place de cette question dans la formation des élèves. Nous vous proposerons le renvois à quelques articles parus à ce propos. Aujourd’hui, le travail de l’artiste Pawel Szypulski présenté dans Libération.

L’artiste polonais et commissaire Paweł Szypulski collectionne les cartes postales envoyées par les touristes après leur visite de l’ancien camp de la mort d’Auschwitz-Birkenau. Les plus anciennes datent de 1947 – seulement deux ans après la libération du lieu. Le livre «Greetings from Auschwitz» paru aux éditions Patrick Frey présente cette collection de cartes, publiées recto-verso.

—A lire et voir : Salut d’Auschwitz – Libération