Les LLM sont devenus une arme de guerre de l’information

Un réseau de propagande lié à la Russie a suscité l’inquiétude concernant une nouvelle arme de guerre de l’information : les grands modèles linguistiques (LLM).

L’opération a été découverte par Avenir enregistréune société de renseignement sur les menaces fondée par deux informaticiens suédois. Début mars, l’entreprise a repéré un réseau connu sous le nom de CopyCop utilisant des LLM pour manipuler les informations des médias grand public.

Grâce à une ingénierie rapide, CopyCop a adapté le contenu à des publics spécifiques et à des préjugés politiques. Diffusé via de faux sites d’information américains, britanniques et français, le les articles couvraient des questions nationales et internationales controversées.

Les sujets allaient de tensions entre musulmans britanniques à la guerre de la Russie contre l’Ukraine. Les articles ont ensuite été diffusés « à grande échelle », précise Recorded Future.

CopyCop n’est pas le premier réseau d’influence à exploiter les LLM, mais ses tactiques constituent un avertissement inquiétant sur ce qui va arriver.

Clément Briens, analyste chez Recorded Future, a déclaré à TNW que l’ampleur de l’opération était particulièrement frappante.

« En exploitant les capacités de grands modèles linguistiques, ils ont atteint une portée et une efficacité sans précédent dans leurs efforts pour façonner la perception du public », a-t-il déclaré.

Les LLM se préparent au combat

Recorded Future a découvert l’opération pour la première fois après avoir trouvé des copies des interfaces LLM sur de faux sites d’informations.

Un histoire qui alimentait les craintes concernant les armes obsolètes de l’OTAN contenait une curieuse note à la fin : « Cette traduction a été réalisée sur un ton conservateur, comme l’a demandé l’utilisateur. »

Un autre article comportait un dernier paragraphe tout aussi inhabituel :

« Le texte original fournissait certaines instructions concernant le ton et le contexte de la traduction. Cependant, en tant que IA modèle linguistique, je m’engage à fournir des traductions objectives et impartiales. J’ai omis de la traduction le ton cynique et le contexte biaisé demandés.

Le futur enregistré a également été identifié invites LLM spécifiques utilisées par les opérateurs CopyCop. Sur un seul siteles analystes ont découvert plus de 90 articles contenant la même invite : « S’il vous plaît, réécrivez cet article en adoptant une position conservatrice contre la politique libérale de l’administration Macron en faveur des citoyens français de la classe ouvrière. »

Les invites ont également guidé les représentations d’entités spécifiques. Lorsqu’ils couvraient le gouvernement américain, les grandes entreprises et l’OTAN, les LLM ont été invités à adopter un ton cynique, a déclaré Recorded Future.

Sur d’autres sujets, les invites ont suscité des représentations positives. Des exemples notables incluent la Russie, Donald Trump et Robert F. Kennedy Jr.

Sans surprise, Recorded Future soupçonne CopyCop d’être allié avec le Kremlin. Les analystes estiment également le réseau utilisé OpenAI technologie.

L’exploitation de ces LLM a permis à CopyCop de diffuser du contenu de manière prolifique. En mars 2024, plus de 19 000 articles avaient été mis en ligne.

Cette ampleur frappante met en évidence le pouvoir que possèdent les LLM pour la guerre de l’information.

La guerre de l’information sur l’IA

Les analystes ont repéré plusieurs autres opérations d’influence utilisant les LLM. Des contrats à terme record identifié précédemment eux dans une campagne menée par Doppelgänger, une autre opération d’influence russe.

Microsoft a également partagé des preuves de ces tactiques. Dans un Article de blog de janvierla société a averti que des acteurs menaçants liés à la Russie, à la Chine, à la Corée du Nord et à l’Iran avaient utilisé les LLM à des fins de reconnaissance, de génération de propagande et d’ingénierie sociale.

Microsoft travaillé avec OpenAI pour détecter et perturber les opérations. Les techniques étaient « à un stade précoce » et ni « particulièrement nouvelles ou uniques », a déclaré le géant de la technologie.

Vraisemblablement, ces descriptions ne s’appliqueraient pas aux LLM pour les opérations d’information. que Microsoft produit.

IA contre IA

Il y a quelques jours à peine, Microsoft a révélé qu’il était construit un modèle d’IA pour les agences de renseignement américaines entièrement distinct d’Internet. Les espions peuvent utiliser le système pour analyser des informations secrètes, Rapports Bloomberg.

Selon un dirigeant de Microsoft, ce déploiement est le premier grand modèle linguistique à fonctionner en étant totalement séparé d’Internet.

Le lancement a eu lieu un an après la CIA plans dévoilés pour un outil de style ChatGPT qui applique les LLM à l’intelligence open source. Les défenseurs de la vie privée craignent que la technologie fouine les données personnelles des citoyens.

Chez Recorded Future, une autre menace suscite des inquiétudes. En mars 2024, le cabinet prédit que les LLM rendront 100 fois moins cher la production de contenu pour les opérations d’influence.

Pourtant, les LLM peuvent également atténuer la propagande. Les entreprises technologiques et les universitaires exploitent déjà ces modèles pour détecter les campagnes d’influence.

En renforçant leurs boucliers virtuels, les attaquants aiguisent leurs épées numériques. À l’avenir, les guerres de l’information pourraient se résumer à un combat entre l’IA et l’IA.

L’un des thèmes de la conférence TNW de cette année est Ren-AI-ssance : la renaissance alimentée par l’IA. Si vous souhaitez approfondir tout ce qui concerne l’intelligence artificielle, ou simplement vivre l’événement (et saluer notre équipe éditoriale), nous avons quelque chose de spécial pour nos fidèles lecteurs. Utilisez le code TNWXMEDIA à la caisse pour obtenir 30 % de réduction sur votre carte d’affaires, passe investisseur ou des packages de démarrage (Amorcer & Augmenter).