Les pirates retournent nos systèmes de sécurité contre l'IA, mais ils peuvent être arrêtés

Avec l'utilisation croissante de l'IA dans presque tous les secteurs du commerce et de l'industrie, nous devons nous préoccuper d'un nouveau problème: le "détournement" de l'intelligence artificielle. Les pirates utilisent les mêmes techniques et systèmes qui nous aident à compromettre nos données, notre sécurité et notre mode de vie. Nous avons déjà vu des pirates informatiques tenter d'y parvenir, et bien que les équipes de sécurité aient réussi à se défendre contre ces attaques, ce n'est qu'une question de temps avant que les pirates informatiques ne réussissent.

Les attraper s'avère être un défi, car les techniques intelligentes que nous utilisons pour nous rendre plus efficaces et plus productifs sont adoptées par des pirates informatiques, qui les utilisent pour contrecarrer nos avancées. Il semble que tout ce que nous pouvons faire, ils peuvent le faire – et parfois ils le font mieux.

Lutter contre ce problème et faire en sorte que les techniques et algorithmes avancés en intelligence artificielle restent du côté des gens bien va constituer l'un des plus grands défis des experts en cybersécurité dans les années à venir.

Pour ce faire, les organisations vont devoir se montrer plus dynamiques pour se protéger. De nombreuses entreprises installent des systèmes de sécurité avancés pour se protéger contre les APT et les autres menaces émergentes. Nombre de ces systèmes utilisent eux-mêmes des techniques d'IA et d'apprentissage automatique. Ce faisant, les organisations pensent souvent que le problème a été résolu. une fois qu'une réponse avancée a été installée, ils peuvent s'asseoir et se détendre, confiants d'être protégés.

Cependant, c'est le genre d'attitude qui garantit presque qu'ils seront piratés. Aussi avancé qu’un système à mesure de leur installation, les pirates informatiques ont presque toujours une longueur d’avance. J'ai constaté que la conscience est l'une des armes les plus importantes dans le carquois des armes de cyber-protection.

La complaisance, at-on dit à maintes reprises, est l’ennemi et, dans ce cas, c’est un ennemi qui peut mener à une cyber-tragédie. Les organisations peuvent faire plus attention à la sécurité de base, renforcer leurs systèmes de sécurité basés sur l'IA afin de mieux détecter les tactiques utilisées par les pirates, et informer le personnel des dangers des tactiques de phishing et autres méthodes utilisées par les pirates pour compromettre le système.

Les pirates ont appris à compromettre l'IA

Comment les pirates informatiques cooptent-ils notre IA? Dans mon travail à l’Université de Tel Aviv, mes collègues et moi avons mis au point des systèmes qui utilisent l’IA pour améliorer la sécurité des réseaux, tout en évitant la violation de l’identité des personnes.

Nos systèmes sont capables de détecter lorsqu'un envahisseur tente d'accéder à un serveur ou à un réseau. Reconnaissant les schémas d'attaque, nos systèmes d'intelligence artificielle, basés sur l'apprentissage automatique et l'analyse avancée, sont en mesure d'alerter les administrateurs sur l'attaque, leur permettant ainsi de prendre des mesures pour éteindre les coupables avant qu'ils aillent trop loin.

Voici un exemple de tactique que les pirates pourraient utiliser. L'apprentissage automatique – au cœur de ce que nous appelons l'intelligence artificielle aujourd'hui – devient «intelligent» en observant les tendances dans les données et en formulant des hypothèses sur ce que cela signifie, que ce soit sur un ordinateur individuel ou sur un grand réseau neuronal.

Ainsi, si une action spécifique dans les processeurs d'ordinateur se produit lorsque des processus spécifiques sont en cours d'exécution et que l'action est répétée sur le réseau de neurones et / ou sur l'ordinateur spécifique, le système découvre que l'action signifie qu'une cyber-attaque a eu lieu et que des mesures appropriées doivent être prises.

Mais c'est ici que ça devient difficile. Les logiciels malveillants connaissant l'IA pourraient injecter de fausses données que le système de sécurité lirait, l'objectif étant de perturber les schémas utilisés par les algorithmes d'apprentissage automatique pour prendre leurs décisions. Ainsi, de fausses données pourraient être insérées dans une base de données pour donner l’impression qu’un processus de copie d’informations personnelles fait simplement partie de la routine habituelle du système informatique et peut être ignoré en toute sécurité.

Au lieu d'essayer de déroger aux systèmes de sécurité intelligents d'apprentissage automatique, les pirates informatiques «se font simplement des amis» avec eux – en utilisant leurs propres capacités contre eux et en s'aidant de tout ce qu'ils veulent sur un serveur.

Les pirates informatiques pourraient tromper les systèmes de sécurité basés sur l'IA de nombreuses autres façons. Nous avons déjà montré, par exemple, qu’un système de reconnaissance d’image basé sur l’IA pourrait être trompé en ne modifiant que quelques pixels dans une image. Dans une célèbre expérience de l'Université de Kyushu au Japon, des scientifiques ont été en mesure de tromper les systèmes de reconnaissance d'images basés sur l'IA près de aux trois quarts de l'époque, les "convaincant" qu'ils ne regardaient pas un chat, mais un chien ou même un combattant furtif.

Une autre tactique implique ce que j'appelle «le tissage», où les pirates informatiques introduisent des signaux et des processus qui n'ont aucun effet sur le système informatique, à l'exception de former le système d'intelligence artificielle à les assimiler à un fonctionnement normal. Une fois que cela est fait, les pirates informatiques peuvent utiliser ces routines pour mener une attaque que le système de sécurité va rater – car il a été formé pour "croire" que le comportement est hors de propos, voire même normal.

Une autre façon pour les pirates informatiques de compromettre un système de cybersécurité basé sur l'IA consiste à modifier ou à remplacer les fichiers journaux – ou même simplement à modifier leur horodatage ou d'autres métadonnées, afin de brouiller davantage les algorithmes d'apprentissage automatique.

Moyens de se protéger eux-mêmes

Ainsi, la grande force de l'intelligence artificielle pourrait bien être sa chute. La réponse est-elle alors de ranger l'IA? Cela n’arrivera certainement pas et il n’ya aucune raison de le faire non plus. Avec des efforts appropriés, nous pouvons surmonter ce problème d’intelligence artificielle et mettre un terme aux efforts des pirates informatiques. Voici quelques idées spécifiques:

Conscience professionnelle: La première chose que doivent faire les organisations est d’augmenter leur niveau d’engagement dans le processus de sécurité. Les entreprises qui installent des systèmes de sécurité avancés pour l’intelligence artificielle ont tendance à faire preuve de négligence en matière de cybersécurité, convaincues que le système les protégera et qu’en les installant, elles assurent leur sécurité.

Comme nous l’avons vu, ce n’est pas le cas. Garder un œil humain sur l'IA qui protège ostensiblement les organisations est la première étape pour s'assurer qu'elles retirent leur argent de leurs systèmes de cybersécurité.

Renforcement de l'IA: Une tactique utilisée par les pirates informatiques pour attaquer est l'inondation Système d'intelligence artificielle avec des données de faible qualité afin de le confondre. Pour se protéger contre cela, les systèmes de sécurité doivent prendre en compte la possibilité de rencontrer des données de mauvaise qualité.

Des contrôles plus stricts de la manière dont les données sont évaluées – par exemple, examiner de plus près les horodatages des fichiers journaux pour déterminer s'ils ont été falsifiés – pourraient prendre des pirates informatiques une arme qu'ils utilisent actuellement avec succès.

sécurité de base: Les pirates informatiques infiltrent le plus souvent les entreprises en utilisant leur tactique éprouvée – les logiciels malveillants APT ou run-of-mill. En renforçant leurs défenses contre des tactiques élémentaires, les entreprises seront en mesure d'empêcher les attaques de toutes sortes – y compris celles utilisant une intelligence artificielle avancée – en empêchant les logiciels malveillants et les exploitations de profiter pleinement de leurs réseaux.

Sensibilisation des employés aux dangers de la prévention du phishing – notamment récompenser ceux qui les évitent et / ou pénaliser ceux qui ne le font pas – ainsi que des défenses de base plus fortes comme les bacs à sable et les systèmes anti-malware, et des systèmes de défense de l'IA plus intelligents peuvent grandement contribuer à protéger les organisations. L'intelligence artificielle a le potentiel de rendre notre avenir numérique plus sûr. avec un peu d'aide de notre part, il sera en mesure d'éviter les manipulations par des pirates informatiques et de faire son travail correctement.

Publié le 22 juin 2019 – 14:00 UTC