Voici comment les chercheurs rendent l'apprentissage automatique plus efficace et plus abordable pour tous

La recherche et le développement de réseaux de neurones sont en plein essor grâce aux récents progrès de la puissance de calcul, à la découverte de nouveaux algorithmes et à l’augmentation du nombre de données étiquetées. Avant l’explosion actuelle de l’activité dans l’espace, les applications pratiques des réseaux de neurones étaient limitées.

Une grande partie des recherches récentes a permis une large application, les lourdes exigences informatiques pour les modèles d'apprentissage automatique l'empêchant toujours d'entrer réellement dans le courant dominant. Maintenant, les algorithmes émergents sont sur le point de pousser les réseaux de neurones vers des applications plus conventionnelles grâce à une efficacité accrue de façon exponentielle.

Les réseaux de neurones constituent un point central de premier plan dans l’état actuel de la science informatique. recherche. Ils sont inspirés par la biologie humaine complexe, qui, dans tous les cas d'utilisation exceptionnels, surpasse toujours les ordinateurs à la plupart des échelles imaginables.

Les ordinateurs sont excellents pour stocker des informations et les traiter rapidement, tandis que les humains sont plus aptes à utiliser de manière efficace le pouvoir de calcul limité qu'ils ont. Un ordinateur pourrait effectuer des millions de calculs par seconde, ce qu'aucun humain ne peut espérer égaler. Là où les humains possèdent leur avantage, c’est l’efficacité, étant plus efficace que les ordinateurs par un facteur de dizaines de milliers .

Ce que les ordinateurs manquent de complexité algorithmique, ils compensent par leur puissance de traitement, analyser les informations à un rythme qui ne cesse de se développer.

Ce pouvoir de calcul vient avec un problème: même si les coûts de ce pouvoir diminuent de manière exponentielle, l’apprentissage automatique reste une affaire coûteuse – hors de la portée de la plupart des particuliers, des entreprises et des chercheurs, qui doivent faire appel à des services tiers coûteux pour réaliser des expériences dans un espace susceptible d’avoir des ramifications stupéfiantes dans une myriade de secteurs.

Par exemple, de simples chatbots pourraient coûter n'importe où dans la fourchette de quelques milliers de dollars à la hausse. 10 000 selon la complexité.

Entrez dans la recherche par architecture neuronale (NAS)

Pour surmonter cet obstacle, des scientifiques ont Stigating diverses techniques pour réduire les coûts et les temps associés aux applications de machine et d'apprentissage en profondeur.

Le domaine est un mélange de considérations à la fois logicielles et matérielles. Des algorithmes plus efficaces et un matériel mieux conçu sont deux priorités, mais le développement humain de ce dernier nécessite énormément de travail et de temps. Cela a poussé les chercheurs à créer des solutions d'automatisation de la conception pour le domaine.

Des progrès sont réalisés tant du côté logiciel que matériel. Actuellement, la technique la plus courante dans la mise en œuvre de réseaux de neurones est la recherche d'architecture neuronale (NAS), qui, bien qu'efficace dans la conception de réseaux de neurones, est onéreuse en termes de calcul. La technique NAS peut être considérée comme une étape fondamentale vers l’apprentissage automatique automatisé.

Le MIT, où une grande partie de la recherche a eu lieu sur le terrain, a publié un document montre un algorithme NAS beaucoup plus efficace qui peut apprendre les réseaux de neurones à convolution (CNN) pour des plates-formes matérielles spécifiques

Les chercheurs qui ont travaillé sur ce document ont réussi à accroître l'efficacité en «supprimant des composants de conception de réseaux de neurones inutiles» et en se concentrant sur un matériel spécifique. plates-formes, y compris les appareils mobiles. Les tests indiquent que ces réseaux de neurones étaient presque deux fois plus rapides que les modèles traditionnels.

Co-auteur de l'article, Song Han, professeur adjoint au Microsystems Technology Laboratory du MIT, a déclaré que l'objectif était de «démocratiser l'IA». [19659008] «Nous voulons permettre aux experts en IA et aux non-experts de concevoir efficacement des architectures de réseaux neuronaux avec une solution bouton-poussoir fonctionnant rapidement avec du matériel spécifique», dit-il. "L'objectif est de décharger le travail répétitif et fastidieux qui accompagne la conception et l'amélioration des architectures de réseaux neuronaux."

D'autres techniques ont également été proposées. Plutôt que d'être exécutés dans des environnements contrôlés utilisant beaucoup de ressources, les algorithmes d'apprentissage automatique peuvent être réduits à une exécution sur du matériel spécialement conçu utilisant des niveaux de puissance plus faibles.

Des chercheurs de l'Université de la Colombie-Britannique ont montré [19659003] les FPGA (Field-Programmable Gate Arrays) sont plus rapides et consomment plus d'énergie pour la mise en oeuvre d'applications d'apprentissage automatique. En plus de rendre l'apprentissage de la machine plus abordable et moins fastidieux avec du matériel personnalisé, les FPGA peuvent également rendre les réseaux de neurones profonds plus accessibles aux personnes ayant une expertise technique moindre.

Les FPGA sont utilisés conjointement avec la synthèse de haut niveau (Synthèse de haut niveau). HLS) pour «concevoir automatiquement le matériel», éliminant ainsi la nécessité de concevoir du matériel spécifique pour tester des solutions d'inférence d'apprentissage automatique et, par conséquent, permettre une implémentation plus rapide des applications pour divers cas d'utilisation.

Autres chercheurs [19659003] ont examiné les FPGA pour le sous-ensemble DNN spécifique, le CNN, une technique connue pour son application à l'analyse d'images, elle-même inspirée du cortex visuel des animaux. Cette méthode fait également référence à l'utilisation de HLS et de FPGA.

Pour démontrer davantage la diversité des cas d'utilisation spécifiques, certaines recherches ont examiné la mise en œuvre de DNN pour l'exécution de la conception automatisée. en ce qui concerne les tâches d'ingénierie.

Agent 001: L'agent d'apprentissage automatique

Il reste cependant un long chemin à parcourir pour le domaine de la recherche en apprentissage automatique. Un chercheur en réseaux de neurones et en apprentissage automatique Robert Aschenbrenner indique un changement technologique imminent et souligne la manière dont les agents d’apprentissage automatique vont améliorer leurs performances et leurs algorithmes.

segmentés en leurs propres fiefs », a déclaré Aschenbrenner. «En règle générale, un site Web chatbot n’interagit pas avec un employé du service clientèle, sauf s’il est programmé pour donner une conversation si certaines conditions sont remplies. Le chatbot ne fait que suivre sa programmation, ne changeant jamais de cap s'il ne le fait pas.

«Plutôt que de déterminer un processus que nous souhaitons automatiser, un agent d'apprentissage automatique observera notre façon de travailler, en collectant et en extrayant des données historiques pour déterminer où les possibilités d'automatisation se trouvent. L'outil d'intelligence artificielle supposera ensuite une solution sous la forme d'un changement de processus automatisé et simulera comment ces changements amélioreront la productivité ou entraîneront de meilleurs résultats commerciaux. "

Train Your Algorithm

Aussi prometteur que cela puisse paraître, il y a beaucoup Il faut travailler à l'apprentissage d'un algorithme pour apprendre comme tout être humain ou animal.

Aschenbrenner énumère cinq domaines principaux dans lesquels les humains ont toujours un avantage sur les machines: vision, apprentissage non supervisé / renforcé, modèles explicables, raisonnement et mémoire, et Apprentissage rapide

Alors que l'IA a progressé sur ces points, les humains ont encore une capacité beaucoup plus grande d'apprendre rapidement et sans avoir besoin de données explicitement étiquetées – "mettre ensemble deux et deux", en quelque sorte. 19659008] La capacité de raisonner et de trouver des liens entre des idées apparemment disparates est un élément que l'homme possède à un degré élevé, tandis que la capacité d'être complètement indépendant et d'obtenir un apprentissage émergent

Bien que le domaine des réseaux de neurones soit très actif, l’élargissement fondamental de l’utilisation des algorithmes d’apprentissage automatique signifie que son application pourrait s’étendre bien au-delà des cas d’utilisation quelque peu limités dans lesquels elle opère actuellement. [19659008] L’intelligence artificielle (IA) prolifère et est déployée de manière pratique mais l’attente de l’intelligence artificielle pour devenir un phénomène omniprésent dépendra de la conception rapide de solutions matérielles et logicielles accompagnées des ressources susmentionnées.

Démocratiser l’intelligence artificielle

Des algorithmes optimisés et des solutions abordables devraient permettre de «démocratiser l’intelligence artificielle», comme le décrit le MIT, plaçant des techniques d’apprentissage automatique à grande échelle entre les mains de individus et groupes qui ne disposent pas des ressources nécessaires pour gérer d’énormes parcs d’ordinateurs à cette fin.

La recherche en est peut-être encore au tout début. domaine, les solutions récemment proposées pour l’automatisation de la conception sont très prometteuses. Cela s'accompagne d'une baisse des coûts du matériel informatique et de l'introduction de technologies interopérables telles que le cloud computing, qui, ensemble, pourraient accélérer l'arrivée d'une utilisation plus répandue de l'apprentissage automatique.

L'accessibilité accrue à des algorithmes et outils sophistiqués peut améliorer l'éducation, le médical soins et performances commerciales.

De plus, les entreprises peuvent réduire leurs coûts opérationnels en confiant à AI le soin de tâches fastidieuses, permettant ainsi une meilleure utilisation des ressources humaines dans des tâches plus critiques.

Il importe de savoir quand, et non pas si, ces outils logiciels plus puissants deviendront plus facilement utilisables .

Cet article a été initialement publié à . District binaire de Colin Adams. Binary District est une communauté technologique de collaboration internationale qui crée des ateliers et des événements uniques basés sur les compétences sur les nouvelles technologies. Suivez-les sur Twitter .