Ottenere un processore a 16 core per meno di 650 dollari è un risultato impressionante, ma diventa insignificante se confrontato con la potenza richiesta da alcuni supercomputer. Il caso del Cerebras Andromeda si distingue non solo per il numero sbalorditivo di core, ma anche per il tipo di lavoro a cui è dedicato: intelligenza artificiale.
Uno dei problemi più comuni in informatica è lo scaling, o meglio, la sua assenza. Intendo dire che buttare il doppio dell'hardware su un problema e aspettarsi di risolverlo in metà tempo spesso non funziona. Ma il parallelismo è migliorato enormemente, permettendo di raggiungere livelli di prestazioni straordinari. Senza andare troppo lontano, il supercomputer Frontier è stato il primo a superare la barriera dell'exaFLOP, con quasi nove milioni di core tra processori e GPU.
Con questo in mente, arriviamo alle porte di Cerebras, che ha appena presentato ufficialmente il suo supercomputer Andromeda. La prima cosa che sorprende è il numero totale di core: 13,5 milioni per essere precisi. Tuttavia, questo non significa che superi Frontier in prestazioni. In realtà, si tratta di due creature diverse, sia per applicazione che per costo. Mentre Frontier può simulare la vita di un reattore nucleare o affrontare problemi di genetica, la priorità di Andromeda è l'intelligenza artificiale.
Cerebras Andromeda: uno scaling quasi perfetto
La pagina ufficiale di Andromeda dedica un'intera sezione alla capacità di scaling del supercomputer in «grandi modelli di linguaggio» (LLM) come GPT-3, GPT-J e GPT-NeoX. La sua configurazione si basa su 16 sistemi Cerebras CS-2, sviluppando tra 14,5 e 15,8 volte le prestazioni di un singolo CS-2. Cerebras parla di più di un exaFLOP in «operazioni di intelligenza artificiale» e 120 petaFLOP di «operazioni dense», combinando un'enorme quantità di core, RAM e storage a stato solido.
Un altro aspetto molto interessante di Andromeda è il design del suo processore, il WSE-2. Si tratta di un chip «wafer-scale», che utilizza quasi l'intera wafer di silicio e possiede tre piani fisici. Il primo è per le comunicazioni, il secondo accumula 40 GB di SRAM (molto più costosa e veloce della DRAM dei nostri computer), e il terzo è per le operazioni aritmetiche, con 850.000 core indipendenti e 3,4 milioni di unità a virgola mobile. Ogni nodo è collegato a un backplane con una larghezza di banda che raggiunge i 96,8 terabit al secondo.
Come se non bastasse, Andromeda possiede anche un banco di processori AMD EPYC (18.176 core in totale), che preparano e coordinano i dati da analizzare. Quanto costa tutto questo hardware? In denaro, 35 milioni di dollari per la costruzione. In energia, circa 500 kilowatt a pieno carico.
Sito ufficiale: Clicca qui
Fonte: ExtremeTech
