Fermer

juillet 20, 2018

IBM a créé un filigrane pour les réseaux de neurones2 minutes de lecture




La création et le développement d'un réseau de neurones robuste est une entreprise qui demande beaucoup de temps et de main-d'œuvre. C'est pourquoi une équipe de chercheurs d'IBM a récemment développé un moyen pour les développeurs d'IA de protéger leur propriété intellectuelle.

Tout comme le filigrane numérique, il intègre des informations dans un réseau qui peuvent ensuite être déclenchées à des fins d'identification. Si vous avez passé des centaines d'heures à développer et à former des modèles IA, et que quelqu'un décide d'exploiter votre travail acharné, la nouvelle technique d'IBM vous permettra de prouver que les modèles sont les vôtres.

La méthode d'IBM consiste à intégrer des informations spécifiques dans des modèles d'apprentissage en profondeur, puis à les détecter en alimentant le réseau de neurones en une image qui déclenche une réponse anormale. Cela permet aux chercheurs d'extraire le filigrane, prouvant ainsi la propriété du modèle.

Selon un article d'IBM la technique du filigrane a été conçue de sorte qu'un mauvais acteur malin ne pouvait pas simplement ouvrir le codez et supprimez le filigrane:

… les filigranes intégrés dans les modèles DNN sont robustes et résilients aux différents mécanismes de contre-filigrane, tels que le réglage fin, l'élagage des paramètres et les attaques par inversion de modèle.

t ajouter un peu de code, ce qui est important parce que les réseaux de neurones peuvent être incroyablement gourmands en ressources. Mais selon Marc Ph. Stoecklin, Manager, Cognitive Cybersecurity Intelligence, IBM Research et co-auteur du livre blanc du projet, ce n'est pas un problème.

Nous avons demandé à Stoecklin si les filigranes pouvaient affecter les performances du réseau neuronal. :

Non, pas pendant le processus de classification. Nous observons une surcharge négligeable pendant l'entraînement (temps d'entraînement nécessaire); de plus, nous avons également observé un effet négligeable sur la précision du modèle (modèle non filigrané: 78,6%, modèle filigrané: précision de 78,41% sur un ensemble de tâches de reconnaissance d'image donné, utilisant les données CIFAR10)

IBM envisage finalement d'utiliser la technique en interne, avec un oeil vers la commercialisation au fur et à mesure du développement.




Source link