Voir et entendre, ce n’est plus croire, grâce à l’IA. Aujourd’hui, la technologie permet de générer facilement et presque instantanément des deepfakes de haute qualité pour amuser, confondre ou désinformer le public.
S’adaptant à ce nouveau paysage, une entreprise connue pour ses solutions de cybersécurité traditionnelles étend désormais son champ d’action, plaçant les contenus générés par l’IA au même niveau de risque que n’importe quelle autre menace de logiciels malveillants de longue date. Bien que la détection des contenus générés par l’IA ait toujours été un combat difficile, l’entreprise technologique McAfee affirme que sa solution – le projet Mockingbird – fonctionne.
« Cette nouvelle technologie propriétaire a été développée pour aider à défendre les consommateurs contre la menace croissante des cybercriminels qui utilisent des contenus audio fabriqués, générés par l’IA, pour réaliser des escroqueries qui volent de l’argent et des informations personnelles, permettent la cyberintimidation et manipulent l’image publique de personnalités importantes », a déclaré l’entreprise dans un communiqué officiel.
McAfee indique que le projet Mockingbird utilise un ensemble de techniques pour repérer les contenus d’IA et, lors des tests, sa méthode propriétaire aurait atteint un taux de précision de 90 % dans les détections de deepfake.
Il faudra cependant attendre un certain temps avant que les clients puissent tester ces affirmations, et l’outil fera partie d’une suite existante et ne sera pas une application autonome.
« Le projet Mockingbird est toujours en cours de développement et est susceptible d’être modifié, mais nous prévoyons actuellement que la technologie sera intégrée à McAfee+ », a déclaré un porte-parole de McAfee à TCN.
La menace des deepfakes à grande échelle
La technologie des deepfakes a progressé au-delà de la simple manipulation visuelle pour englober également l’audio, avec des plateformes comme ElevenLabs qui atteignent une précision remarquable dans le clonage de la voix. Les alternatives open-source, bien que moins précises, offrent entre-temps des options non censurées et peu gourmandes en ressources. Ce paysage évolutif du mimétisme numérique soulève de profondes questions sur l’authenticité à l’ère numérique.
Un exemple frappant du potentiel perturbateur du deepfake est apparu en Argentine. Comme TCN l’a précédemment rapporté, la candidate à la présidence Patricia Bullrich a été confrontée à un scandale lorsque des enregistrements audio – prétendument de son choix pour le poste de ministre de l’économie, Carlos Melconian – ont fait surface. Bullrich a affirmé que ces enregistrements étaient des faux générés par l’intelligence artificielle.
Malgré les progrès des capacités de détection, comme en témoignent des entreprises telles que DeepMedia, la précision de ces outils reste sujette à caution. Dans le domaine de la détection des « deepfakes », on en est encore aux balbutiements et on s’efforce d’identifier les contenus générés par l’IA dans les textes, les images et les vidéos.
Les implications de cette tendance technologique vont bien au-delà des atteintes à la sécurité. La sophistication croissante des « deepfakes » menace la confiance du public, en risquant d’influencer les élections et de fausser le discours public.
Comme l’a fait remarquer Steve Grobman, vice-président principal et directeur de la technologie de McAfee, « Nous construisons une IA avancée capable d’identifier des micro-caractéristiques qui pourraient même être imperceptibles pour les humains. «
L’héritage de John McAfee
John McAfee, fondateur de McAfee Associates, était aussi célèbre pour ses exploits personnels que pour ses innovations technologiques. Après avoir créé le premier logiciel antivirus commercial, une référence en matière de cybersécurité, la vie de McAfee a pris un tournant dramatique. Il a vendu sa société et s’est plongé dans un monde de controverse et d’extravagance, marqué par des fêtes luxueuses et un comportement excentrique, faisant la une des journaux bien loin de son génie technologique.
La baise des baleines. Pas de blague. Chaque année, le 1er février, dans le canal de Molokai, quelques hommes participent au seul concours de baise de baleine au monde. Les baleines à bosse sont faciles à baiser – pendant une seconde ou moins. Record du monde : 31 secondes. J’ai participé une fois. J’ai failli me faire écraser les côtes. Restez avec les autruches.
– John McAfee (@officialmcafee) June 24, 2018
Dans ses dernières années, le nom de McAfee est devenu synonyme du monde de la cryptographie, où il a embrassé le rôle d’un crypto-évangéliste. Ses activités dans ce domaine se caractérisaient par une promotion sans complexe de diverses crypto-monnaies, souvent qualifiée de « shilling » par ses détracteurs. Les choses ont pris une tournure plus sombre lorsqu’il s’est retrouvé dans un labyrinthe de problèmes juridiques et de démêlés avec la justice, notamment des allégations d’évasion fiscale et d’implication dans des activités criminelles.
Dans une dernière série d’événements dramatiques, McAfee a été arrêté en Espagne et risquait l’extradition vers les États-Unis. Tragiquement, sa vie s’est achevée dans une cellule de prison espagnole, où il a été retrouvé mort, laissant derrière lui un héritage empreint de brio, de controverse et de mystère.
