vendredi 21 avril 2023

Microsoft rejoint les Chip-munks et fabriquera ses propres puces IA.

Microsoft rejoint les Chip-munks et fabriquera ses propres puces IA.

Microsoft a rejoint les rangs des fabricants qui veulent fabriquer leurs propres puces d'IA. 

Selon un rapport de The Information, la société est actuellement engagée dans le développement de ses puces IA, appelées Athena, un projet sur lequel le géant de la technologie travaille depuis 2019. 

L'une des principales raisons pour lesquelles Microsoft construit ses propres puces est de réduire ses coûts. Selon le rapport, Athena pourrait éventuellement réduire le coût par puce d'un tiers par rapport à Nvidia. En outre, Microsoft souhaite également réduire sa dépendance à Nvidia. 

Par conséquent, la construction de puces en interne pourrait signifier que Microsoft peut concevoir les puces, son architecture et sa compatibilité en fonction de ses propres besoins ³.

Source : 

(1) Microsoft veut aussi fabriquer ses propres puces et recherche des .... https://commentouvrir.com/blog/microsoft-veut-aussi-fabriquer-ses-propres-puces-et-recherche-des-ingenieurs-sur-linkedin/

(2) Microsoft va équiper ses serveurs avec ses propres puces au grand dam d .... https://www.lefigaro.fr/secteur/high-tech/microsoft-va-equiper-ses-serveurs-avec-ses-propres-puces-au-grand-dam-d-intel-20201221 

(3) Microsoft prévoit de concevoir ses propres puces ARM pour Surface. https://www.journaldugeek.com/2020/12/21/microsoft-prevoit-de-concevoir-ses-propres-puces-arm-pour-surface/ 


L'une des principales raisons de l'incursion de Microsoft dans la fabrication de puces est de réduire les coûts, qu'Athena pourrait éventuellement réduire d'un tiers par rapport à Nvidia. Par Pritam Bordoloi

Microsoft veut fabriquer ses propres puces IA. 

Selon un rapport de The Information, la société est actuellement engagée dans le développement de ses puces IA, appelées Athena, un projet sur lequel le géant de la technologie travaille depuis 2019. Actuellement, les puces sont testées par un petit groupe d'employés de Microsoft et OpenAI. Mais ce que nous ne savons pas encore, c'est si et quand Microsoft prévoit de sortir la puce à des fins commerciales.

Jusqu'à présent, pour faire fonctionner ses modèles d'IA, Microsoft s'appuyait sur les puces disponibles sur le marché, dominé par Nvidia. Pour aider OpenAI à former ses grands modèles de langage (LLM) de la série GPT, la société basée à Redmond a également construit un supercalculateur pour OpenAI, alimenté par des puces Nvidia A100.

Compte tenu des progrès rapides dans le domaine, des sociétés d'IA telles que Google, Apple et Amazon ont déjà développé leurs puces d'IA. Google, en effet, a construit un supercalculateur pour entraîner ses modèles avec ses TPU (Tensor Processing Units). Amazon a également ses architectures de processeur Trainium et Inferentia. Il n'est donc pas surprenant que Microsoft marche dans la même voie.

Optimisation des coûts

On estime que la simple formation d'un LLM comme GPT-3 aurait coûté à OpenAI environ 4 millions de dollars. De plus, OpenAI dépense environ 3 millions USD par mois pour maintenir ChatGPT. 

De plus, les GPU utilisés pour exécuter ces modèles sont également très chers. Nvidia, le premier producteur de GPU pour l'industrie de l'IA, vend ses principales puces de centre de données pour environ 10 000 USD. De plus, ses GPU H100 sont vendus 40 000 USD sur eBay. 

Selon certaines informations, le supercalculateur de Microsoft utilise des dizaines de milliers de GPU de centre de données H100 et A100 de Nvidia.

L'une des principales raisons pour lesquelles Microsoft construit ses propres puces est de réduire ses coûts. Selon le rapport, Athena pourrait éventuellement réduire le coût par puce d'un tiers par rapport à Nvidia.

En outre, Microsoft souhaite également réduire sa dépendance à Nvidia. 

Par conséquent, la construction de puces en interne pourrait signifier que Microsoft peut concevoir les puces, son architecture et sa compatibilité en fonction de ses propres besoins. Selon le rapport, Microsoft a conçu Athena à la fois pour la formation et pour l'exécution de ses modèles d'IA.

Le PDG de Microsoft, @satyanadella, a estimé que son entreprise avait le choix : soit payer Nvidia un milliard de dollars, soit faire Athena.

 

Microsoft Joins the Chip-munks, Will Make its Own AI Chips (analyticsindiamag.com)

Que sait-on d'Athena, le projet de Microsoft pour créer ses propres puces dédiées à l'IA ? (01net.com)

Microsoft travaille sur des cartes graphiques dédiées à l'IA qui pourraient rivaliser avec celles de Nvidia (tomsguide.fr)


Microsoft a de nombreux projets d'IA en cours. 

Par exemple, ils ont un laboratoire d'IA où ils explorent, apprennent et codent avec les dernières innovations en matière d'IA. Ils ont également des projets dans des domaines tels que la plateforme cognitive pour l'intelligence située, l'IA à grande échelle, le nez artificiel, CoModGAN et Microsoft Math ¹. Microsoft a également une initiative appelée AI for Good qui vise à utiliser l'IA pour résoudre les défis sociétaux les plus pressants ².

Source : 

(1) AI Lab Projects - Microsoft AI Lab. https://www.microsoft.com/en-us/ai/ai-lab-projects 

(2) Microsoft AI. https://news.microsoft.com/ai/ 

(3) Participate in Microsoft AI for Good Projects | Microsoft AI. https://www.microsoft.com/en-us/ai/ai-for-good-participation 



----------------------------------------------------------

Merci ChatGPT 

"Chipmunks" se traduit en français par "tamias" ou "écureuils rayés".

En terme informatique me donner une definition de Chip-munks : En termes informatiques, "Chipmunks" ne désigne rien de spécifique. Si vous parlez peut-être de "Chipmunk Physics Engine", c'est un moteur physique open source 2D qui permet de simuler les mouvements et les interactions physiques entre des objets dans un environnement de jeu ou de simulation.








Aucun commentaire:

Enregistrer un commentaire

Anthropic propose une bibliothèque de prompts :

  Anthropic propose une bibliothèque de prompts : Anthropic propose effectivement une bibliothèque de prompts optimisés pour diverses tâches...