Ce que signifie la collaboration entre Hugging Face et Microsoft pour l’IA appliquée

Cet article fait partie de notre série qui explore les métier de l’intelligence artificielle.

La semaine dernière, Hugging Face a annoncé un nouveau produit en collaboration avec Microsoft appelé Étreinte des points de terminaison de visage sur Azurequi permet aux utilisateurs de configurer et d’exécuter des milliers de modèles d’apprentissage automatique sur la plate-forme cloud de Microsoft.

Ayant commencé comme une application de chatbot, Hugging Face s’est fait connaître en tant que hub pour modèles de transformateurun type d’architecture d’apprentissage en profondeur qui a été à l’origine de nombreuses avancées récentes en matière d’intelligence artificielle, y compris de grands modèles de langage comme OpenAI GPT-3 et le modèle de repliement des protéines de DeepMind Pliage alpha.

Les grandes entreprises technologiques comme Google, Facebook et Microsoft utilisent des modèles de transformateurs depuis plusieurs années. Mais les deux dernières années ont vu un intérêt croissant pour les transformateurs parmi les petites entreprises, dont beaucoup ne disposent pas de talents internes en apprentissage automatique.

C’est une excellente opportunité pour des entreprises comme Hugging Face, dont la vision est de devenir le GitHub pour l’apprentissage automatique. La société a récemment obtenu 100 millions de dollars en série C à une valorisation de 2 milliards de dollars. L’entreprise souhaite fournir une large gamme de services d’apprentissage automatique, y compris des modèles de transformateurs prêts à l’emploi.

Cependant, créer une entreprise autour des transformateurs présente des défis qui favorisent les grandes entreprises technologiques et désavantagent des entreprises comme Hugging Face. La collaboration de Hugging Face avec Microsoft peut être le début d’une consolidation du marché et d’une éventuelle acquisition dans le futur.

Les modèles de transformateur peuvent effectuer de nombreuses tâches, notamment la classification, la synthèse et la génération de texte ; réponse à une question; Traduction; l’écriture code source du logiciel; et conversion de la parole en texte. Plus récemment, les transformateurs se sont également lancés dans d’autres domaines, tels que la recherche sur les médicaments et la vision par ordinateur.

L’un des principaux avantages des modèles de transformateurs est leur capacité à évoluer. Ces dernières années ont montré que les performances des transformateurs augmentent à mesure qu’ils sont agrandis et entraînés sur des ensembles de données plus importants. Cependant, la formation et l’exploitation de grands transformateurs sont très difficiles et coûteuses. UN article récent de Facebook montre quelques-uns des défis en coulisses de la formation de très grands modèles de langage. Bien que tous les transformateurs ne soient pas aussi gros que le GPT-3 d’OpenAI et l’OPT-175B de Facebook, ils sont néanmoins difficiles à maîtriser.

Hugging Face fournit un large répertoire de modèles ML pré-formés pour alléger le fardeau du déploiement des transformateurs. Les développeurs peuvent charger directement des transformateurs à partir de la bibliothèque Hugging Face et les exécuter sur leurs propres serveurs.

Les modèles pré-formés sont parfaits pour l’expérimentation et le réglage fin des transformateurs pour les applications en aval. Cependant, lorsqu’il s’agit d’appliquer les modèles ML à des produits réels, les développeurs doivent prendre en compte de nombreux autres paramètres, notamment les coûts d’intégration, d’infrastructure, de mise à l’échelle et de recyclage. S’ils ne sont pas correctement configurés, les transformateurs peuvent être coûteux à exploiter, ce qui peut avoir un impact significatif sur le modèle commercial du produit.

Par conséquent, bien que les transformateurs soient très utiles, de nombreuses organisations susceptibles d’en bénéficier n’ont pas le talent et les ressources nécessaires pour les former ou les gérer de manière rentable.

Étreinte des points de terminaison de visage sur Azure

Une alternative à l’exécution de votre propre transformateur consiste à utiliser des modèles ML hébergés sur des serveurs cloud. Ces dernières années, plusieurs entreprises ont lancé des services permettant d’utiliser des modèles d’apprentissage automatique via des appels API sans avoir besoin de savoir comment former, configurer et déployer des modèles ML.

Il y a deux ans, Hugging Face a lancé son propre service ML, appelé Inference API, qui donne accès à des milliers de modèles pré-formés (principalement des transformateurs) par opposition aux options limitées des autres services. Les clients peuvent louer l’API d’inférence basée sur des ressources partagées ou demander à Hugging Face de configurer et de maintenir l’infrastructure pour eux. Les modèles hébergés rendent le ML accessible à un large éventail d’organisations, tout comme les services d’hébergement cloud ont apporté des blogs et des sites Web à des organisations qui ne pouvaient pas configurer leurs propres serveurs Web.

Alors, pourquoi Hugging Face s’est-il tourné vers Microsoft ? Transformer le ML hébergé en une activité rentable est très compliqué (voir, par exemple, API GPT-3 d’OpenAI). Des entreprises comme Google, Facebook et Microsoft ont investi des milliards de dollars dans la création de processeurs et de serveurs spécialisés qui réduisent les coûts d’exécution des transformateurs et d’autres modèles d’apprentissage automatique.

Hugging Face Endpoints tire parti des principales fonctionnalités d’Azure, notamment ses options de mise à l’échelle flexibles, sa disponibilité mondiale et ses normes de sécurité. L’interface est facile à utiliser et ne prend que quelques clics pour configurer un modèle de consommation et le configurer pour s’adapter à différents volumes de demandes. Microsoft a déjà créé une infrastructure massive pour exécuter des transformateurs, ce qui réduira probablement les coûts de livraison des modèles ML de Hugging Face. (Actuellement en version bêta, Hugging Face Endpoints est gratuit et les utilisateurs ne paient que les coûts d’infrastructure Azure. La société prévoit un modèle de tarification basé sur l’utilisation lorsque le produit sera disponible au public.)

Plus important encore, Microsoft a accès à une grande part du marché ciblé par Hugging Face.

Selon le Blog sur le visage étreignant« Comme 95 % des entreprises du Fortune 500 font confiance à Azure pour leur activité, il était parfaitement logique que Hugging Face et Microsoft s’attaquent ensemble à ce problème. »

De nombreuses entreprises trouvent frustrant de s’inscrire et de payer pour divers services cloud. L’intégration du produit ML hébergé de Hugging Face avec Microsoft Azure ML réduit les obstacles à la livraison de la valeur de son produit et élargit la portée du marché de l’entreprise.

Crédit image : 123RF (avec modifications)

Hugging Face Endpoints peut être le début de nombreuses autres intégrations de produits à l’avenir, car la suite d’outils de Microsoft (Outlook, Word, Excel, Teams, etc.) compte des milliards d’utilisateurs et fournit de nombreux cas d’utilisation pour les modèles de transformateurs. Les dirigeants de l’entreprise ont déjà fait allusion à des plans pour étendre leur partenariat avec Microsoft.

« C’est le début de la collaboration entre Hugging Face et Azure que nous annonçons aujourd’hui alors que nous travaillons ensemble pour rendre nos solutions, notre plateforme d’apprentissage automatique et nos modèles accessibles et faciliter leur utilisation sur Azure. Hugging Face Endpoints sur Azure est notre première solution disponible sur Azure Marketplace, mais nous travaillons dur pour apporter plus de solutions Hugging Face à Azure », a déclaré Jeff Boudier, directeur produit chez Hugging Face. Tech Crunch. « Nous avons reconnu [the] obstacles au déploiement de solutions d’apprentissage automatique en production [emphasis mine] et a commencé à collaborer avec Microsoft pour répondre à l’intérêt croissant pour une solution simple et prête à l’emploi.

Cela peut être extrêmement avantageux pour Hugging Face, qui doit trouver un modèle économique justifiant sa valorisation à 2 milliards de dollars.

Mais la collaboration de Hugging Face avec Microsoft ne sera pas sans compromis.

Plus tôt ce mois-ci, dans un entretien avec ForbesClément Delangue, co-fondateur et PDG de Hugging Face, a déclaré qu’il avait refusé plusieurs « offres d’acquisition significatives » et qu’il ne vendrait pas son entreprise, comme GitHub l’a fait à Microsoft.

Cependant, la direction que prend actuellement son entreprise rendra son modèle commercial de plus en plus dépendant d’Azure (encore une fois, OpenAI fournit un bon exemple de la direction que prennent les choses) et réduira peut-être le marché de son produit d’API d’inférence indépendant.

Sans la portée commerciale de Microsoft, le ou les produits de Hugging Face auront des obstacles à l’adoption plus importants, une proposition de valeur inférieure et des coûts plus élevés (les « obstacles » mentionnés ci-dessus). Et Microsoft peut toujours lancer un produit concurrent qui sera meilleur, plus rapide et moins cher.

Si une proposition d’acquisition de Microsoft arrive, Hugging Face devra faire un choix difficile. C’est aussi un rappel de la direction que prend le marché des grands modèles de langage et de l’apprentissage automatique appliqué.

Dans des commentaires publiés sur le blog Hugging Face, Delangue a déclaré : « La mission de Hugging Face est de démocratiser un bon apprentissage automatique. Nous nous efforçons d’aider chaque développeur et organisation à créer des applications de haute qualité, alimentées par ML, qui ont un impact positif sur la société et les entreprises. »

En effet, des produits comme Hugging Face Endpoints vont démocratiser le machine learning pour les développeurs.

Mais les transformateurs et les grands modèles de langage sont également intrinsèquement antidémocratiques et donneront trop de pouvoir à quelques entreprises qui ont les ressources pour les construire et les gérer. Alors que davantage de personnes pourront créer des produits sur des transformateurs alimentés par Azure, Microsoft continuera à sécuriser et à étendre sa part de marché dans ce qui semble être l’avenir de l’apprentissage automatique appliqué. Des entreprises comme Hugging Face devront en subir les conséquences.

Cet article a été initialement publié par Ben Dickson sur TechTalks, une publication qui examine les tendances de la technologie, comment elles affectent notre façon de vivre et de faire des affaires, et les problèmes qu’elles résolvent. Mais nous discutons également du côté pervers de la technologie, des implications les plus sombres des nouvelles technologies et de ce que nous devons surveiller. Vous pouvez lire l’article original ici.