Le PDG de Nvidia dit que le raisonnement IA a besoin de 100 fois plus de puces AI

Il y a un coût élevé pour raisonnement aiou IA qui peut fournir une ventilation étape par étape de son processus de réflexion avec une réponse.
PDG de Nvidia Jensen Huang dit à CNBC mercredi que les modèles d’IA de nouvelle génération capables de raisonner par des problèmes avant d’arriver à une réponse, comme Chatgpt 4o et Grok 3nécessitent une puissance de calcul «100 fois plus», ou jusqu’à 100 fois le nombre de puces AI de NVIDIA que les anciens modèles d’IA.
Il en résulte une demande accrue et des ventes plus élevées pour les puces AI de Nvidia, qui se vendent pour jusqu’à 70 000 $ chacunpour soutenir ces capacités de raisonnement. Nvidia tient entre 70% et 95% du marché des puces d’IA.
« Nous sommes juste au début du raisonnement de l’ère de l’IA », a déclaré Huang à CNBC après le fabricant de puces AI Rapport sur les bénéfices du quatrième trimestre. « Tous ces modèles d’IA de raisonnement ont maintenant besoin de beaucoup plus de calcul que ce à quoi nous sommes habitués. »
Dans l’interview, Huang a présenté une forte demande pour Blackwell AI Chip de Nvidia, qui avait des revenus de 11 milliards de dollars au quatrième trimestre, le premier trimestre qu’il était sorti. Les revenus du centre de données de NVIDIA, qui alimentent les systèmes d’IA pour des entreprises comme Meta, Microsoft et Amazon, ont presque doublé de l’année dernière pour atteindre 35,6 milliards de dollars – et Huang dit que la croissance devrait se poursuivre.
« L’investissement en capital de cette année pour les centres de données est bien supérieur à celui de l’an dernier », a déclaré Huang à CNBC.
Meta et Microsoft, qui sont certains des plus grands clients de Nvidia, ont déjà commis des milliards de dollars cette année pour dépenser des infrastructures d’IA comme des centres de données. Meta a déclaré qu’il dépenserait jusqu’à 65 milliards de dollars sur l’IA pendant que Microsoft a dit qu’il dépenserait 80 milliards de dollars.
Le PDG de Nvidia, Jensen Huang. Photo de Patrick T. Fallon / AFP via Getty Images
Nvidia a battu les estimations de Wall Street mercredi avec son Dernier rapport des revenus. Le géant de l’IA a indiqué que les revenus trimestriels avaient augmenté de 78% pour atteindre 39,33 milliards de dollars par rapport à un an plus tôt. Les revenus étaient plus élevés que les estimations de Wall Street de 38,05 milliards de dollars.
Dans l’appel des gains, la directrice financière de Nvidia, Colette Kress, a réitéré le message de Huang sur l’augmentation du pouvoir de calcul et les puces NVIDIA AI correspondantes, requise pour alimenter le raisonnement AI.
« L’IA de la réflexion longue et du raisonnement peut nécessiter 100 fois plus de calcul par tâche par rapport aux inférences à un coup », a déclaré Kress aux investisseurs.
Nvidia est la deuxième plus grande entreprise du monde, avec un capitalisation boursière de plus de 3,1 billions de dollars au moment de la rédaction.
Source link