Microsoft ha svelato oggi Maia 300, il suo chip AI di terza generazione progettato per diventare il sistema primario di inferenza AI per i prodotti e i servizi dell'azienda. Il nuovo processore non solo migliora costi ed efficienza dei carichi di lavoro AI nel cloud, ma è anche più capace di gestire i modelli di ragionamento più recenti e le attività agentiche. Il rollout in produzione è previsto per il 2027.
Efficienza senza precedenti
Maia 300 è stato progettato con un'attenzione maniacale all'efficienza. Secondo Scott Guthrie, vicepresidente esecutivo del gruppo cloud di Microsoft, il chip garantirà il 40% in più di token per megawatt rispetto ai sistemi basati su GPU leader di mercato. In una configurazione completa con 96 acceleratori, Maia 300 arriverà a offrire fino a 7 volte il throughput di token per rack rispetto a Maia 200. Questi miglioramenti permetteranno a Microsoft di fare affidamento principalmente sui propri chip AI, riducendo la dipendenza da Nvidia e AMD.
"Scaleremo la famiglia Azure Maia a distribuzioni multi-gigawatt a partire dal 2027, rendendo Maia il sistema primario di inferenza AI per i prodotti e servizi Microsoft", ha dichiarato Guthrie. Maia 300 succede al 200, annunciato solo a gennaio, che già alimenta carichi di lavoro AI in produzione come Microsoft Copilot, GitHub Copilot, Microsoft Foundry e i modelli AI proprietari di Microsoft. "Maia 200 è l'infrastruttura AI con le migliori prestazioni della nostra flotta, misurata con metriche reali per i servizi AI", ha aggiunto Guthrie.
Architettura chiplet e processo N2P
Per ottenere questi guadagni di efficienza, Microsoft utilizza una nuova architettura a chiplet basata sul processo N2P di TSMC. La struttura di Maia 300 separa le funzioni di calcolo, controller di memoria e I/O, aumentando l'area del silicio dedicata alle prestazioni di calcolo e consentendo a ciascuna funzione di utilizzare la tecnologia più adatta al proprio ruolo. Maia 300 è anche una parte cruciale del lavoro di Microsoft sui modelli AI, e potrebbe aiutare l'azienda a raggiungere l'obiettivo di colmare il divario con Google DeepMind, OpenAI e Anthropic.
"Dobbiamo lavorare sull'intero stack, fino al silicio", ha affermato Mustafa Suleyman, CEO di Microsoft AI. "A quella scala abbiamo bisogno di una piattaforma che possediamo e che co-progettiamo con i nostri modelli. Ecco perché eseguire i nostri modelli AI su Maia è un focus critico per il nostro team."
