Les États pourraient déjà produire des logiciels malveillants d’IA qui échappent à la détection

Les logiciels malveillants générés par l’IA qui évitent la détection pourraient déjà être disponibles dans les États-nations, selon le Royaume-Uni la cyber-sécurité agence.

Pour produire un logiciel aussi puissant, les auteurs de menaces doivent former un IA modèle sur les « données d’exploitation de qualité », a déclaré aujourd’hui le Centre national de cybersécurité (NCSC). Le système résultant créerait un nouveau code qui échapperait aux mesures de sécurité actuelles.

« Il existe une possibilité réaliste que des États hautement compétents disposent de référentiels de logiciels malveillants suffisamment volumineux pour former efficacement un modèle d’IA à cette fin », a averti le NCSC.

Quant à ce que signifie réellement une « possibilité réaliste », le « critère de probabilité » de l’agence offre une certaine clarté.

L’avertissement faisait partie d’une vague de sonnettes d’alarme lancées par le NCSC. L’agence s’attend à ce que l’IA accroisse la menace mondiale des ransomwares, améliore le ciblage des victimes et abaisse les barrières d’entrée pour les cybercriminels.

L’IA générative accroît également les menaces. C’est particulièrement utile pour les techniques d’ingénierie sociale, telles que les interactions convaincantes avec les victimes et la création de documents de leurre.

GénAI rendra plus difficile l’identification du phishing, de l’usurpation d’identité et des demandes malveillantes de réinitialisation de mot de passe ou de courrier électronique. Mais les États-nations disposeront des armes les plus puissantes.

« Les acteurs étatiques hautement compétents sont certainement les mieux placés parmi les acteurs de la cybermenace pour exploiter le potentiel de l’IA dans les cyberopérations avancées », a déclaré l’agence.

À court terme, cependant, l’intelligence artificielle devrait renforcer les menaces existantes plutôt que de transformer le paysage des risques. Les experts craignent particulièrement que cela n’aggrave la menace mondiale des ransomwares.

« Les ransomwares continuent de constituer une menace pour la sécurité nationale », a déclaré James Babbage, directeur général des menaces à la National Crime Agency, dans un communiqué.

« Comme le montre ce rapport, la menace est susceptible d’augmenter dans les années à venir en raison des progrès de l’IA et de l’exploitation de cette technologie par les cybercriminels. »