Le coût des activités (IA) : tirer le meilleur parti de votre centre de données, maintenant – et à l’avenir

Les DSI d’aujourd’hui sont confrontés à des défis sans précédent pour moderniser leurs centres de données afin de répondre à la demande croissante de leurs infrastructures, tout en étant confrontés à des budgets de plus en plus restreints. L’IA générative (genAI) a fait irruption sur la scène en novembre 2022 avec la sortie de ChatGPT, surprenant presque tout le monde dans l’industrie par ses capacités, et soudain, tous les PDG et conseils d’administration ont commencé à dire à leurs DSI de mettre en ligne les capacités de genAI le plus rapidement possible.
Il est de notoriété publique que les charges de travail genAI sont exigeantes, mais l’ampleur de la puissance, du refroidissement et du traitement supplémentaires que les DSI devront fournir pour les prendre en charge est difficile à comprendre, en particulier compte tenu des délais d’exécution de plus en plus courts que les entreprises attendent des initiatives informatiques.
Selon Sajjad Moazeni,1 professeur de génie électrique et informatique à l’Université de Washington, étant donné que ChatGPT reçoit des centaines de millions de requêtes quotidiennement, il consomme probablement 1 GWh chaque jour, soit suffisamment pour alimenter 33 000 foyers américains sur la même période.
Plus inquiétant encore, l’intensification de l’informatique d’entreprise qui dure depuis des décennies a déjà poussé l’approvisionnement électrique mondial à ses limites, et les nouvelles demandes des centres de données d’IA menacent de dépasser la capacité actuelle. En 2022, les centres de données représentaient 4 % de la consommation énergétique des États-Unis, et en 2026, on prévoit qu’ils2 cela représente 6 %, selon un rapport de l’Agence internationale de l’énergie (AIE).

DMLA
GenAI n’est pas le seul facteur qui pousse les DSI à se moderniser. Les modèles économiques, les coûts de licence et les charges de travail modernes et très exigeantes sont également des sujets de préoccupation. Si un DSI travaille avec du matériel plus ancien qui nécessite davantage de cœurs pour fournir le niveau de performances souhaité, le service informatique pourrait être confronté à de fortes augmentations de coûts sans rien changer de significatif dans la pile.
Les coûts d’alimentation et de refroidissement continuent d’augmenter, et l’infrastructure vieillissante des centres de données devient moins fiable et plus coûteuse à entretenir. Dans le même temps, les demandes des entreprises pour prendre en charge de nouvelles charges de travail augmentent chaque jour. Cependant, les centres de données disposent de très peu d’espace inutilisé ou de baisses de puissance pour déployer des équipements supplémentaires afin de gérer cette augmentation. Les responsables informatiques devront trouver des moyens de répondre à des besoins intenses en ressources sans étendre leur empreinte immobilière ni consommer d’énergie supplémentaire.

DMLA
Les centres de données doivent devenir bien plus efficaces et les processeurs AMD EPYC™ peuvent jouer un rôle important dans la réalisation de ces objectifs.
4ème Les processeurs AMD EPYC de génération permettent aux centres de données d’utiliser moins de serveurs et moins d’énergie pour effectuer la même quantité de travail par rapport à la concurrence. Par exemple, le processeur AMD EPYC 9474F permet aux centres de données de consommer jusqu’à 47 % d’énergie en moins et jusqu’à 42 % de réduction des coûts de licence logicielle par rapport aux anciens serveurs basés sur le processeur Intel® Platinum® 8280.3. De plus, grâce aux économies réalisées grâce à la mise à niveau vers les processeurs AMD EPYC, un client peut récupérer entièrement le coût de l’investissement matériel nécessaire à la mise à niveau en environ deux mois. Les anciens serveurs Intel constituent le type de cible particulièrement adapté au remplacement, compte tenu de leur relative inefficacité, et sont souvent au-delà du cycle de dépréciation.

DMLA
Le passage d’anciens serveurs à des systèmes basés sur un processeur AMD EPYC peut être étonnamment simple. AMD entretient des relations techniques approfondies dans l’ensemble de l’écosystème des serveurs, depuis les fabricants OEM et les fournisseurs de systèmes d’exploitation jusqu’aux hyperviseurs et fournisseurs d’applications. Vous pouvez toujours acheter auprès de fournisseurs connus et fiables. Les seules choses auxquelles les DSI pourraient devoir renoncer sont une grande partie de leur facture d’électricité actuelle et toutes leurs inquiétudes concernant la charge de travail à venir.Découvrez comment AMD peut aider votre organisation à se préparer à dire « oui » à l’IA : https://www.amd.com/en/products/processors/server/epyc/ai.html
1 Questions et réponses : un chercheur de l’UW discute de la quantité d’énergie utilisée par ChatGPT | UW Nouvelles (Washington.1éd2toi)
2Rapport de l’Agence internationale de l’énergie (AIE)
3SP5TCO-073 : au 18/06/2024, ce scénario contient de nombreuses hypothèses et estimations et, bien que basé sur les recherches internes d’AMD et les meilleures approximations, doit être considéré comme un exemple à des fins d’information uniquement et ne doit pas être utilisé comme base pour la prise de décision. par rapport aux tests réels. L’outil d’estimation du coût total de possession (coût total de possession) du rafraîchissement du serveur et des émissions de gaz à effet de serre compare les solutions de serveur sélectionnées basées sur les processeurs AMD EPYC™ et Intel® Xeon® requises pour fournir une TOTAL_PERFORMANCE d’environ 9 020 unités de performances de paires appariées VMmark3 sur la base des scores publiés. (ou estimé s’il est indiqué par un astérisque) pour les serveurs basés sur les processeurs Intel Xeon et AMD EPYC. Cette estimation reflète une période de 5 ans. Cette analyse compare un serveur 2P AMD 48 cœurs EPYC_9474F avec un score VMmark 3.1 de 26,95 @ 26 tuiles, par rapport à un serveur 2P Intel Xeon 64 cœurs Platinum_8592+ avec un score VMmark 3.1 de 27,52. @ 28 tuiles, par rapport à l’ancien serveur 2P Intel Xeon 28 cœurs Platinum_8280 avec un score VMmark 3.1 de 9,02 @ 9 tuiles, estimations de l’impact environnemental réalisées en tirant parti de ces données, en utilisant les facteurs électriques spécifiques au pays/région du ‘2020 Grid Electricity Emissions Factors v1 .4 – septembre 2020 », et le « Calculateur d’équivalences de gaz à effet de serre » de l’Environmental Protection Agency des États-Unis. Résultats générés par : Outil d’estimation du coût total de possession du serveur AMD EPYC™ et des émissions de gaz à effet de serre – version 1.51 PRO
Source link