La società italiana di intelligenza artificiale iGenius (ne abbiamo parlato sei mesi fa in occasione di un round di finanziamento da 650 milioni di euro) ha stretto con Nvidia un accordo che prevede la costruzione di un supercomputer nel Sud Italia caratterizzato da una delle più grandi dotazioni al mondo di server Nvidia di ultima generazione.

Il supercomputer, che si chiamerà Colosseum, sarà pronto secondo i piani entro la metà dell’anno prossimo. Tecnicamente è un SuperPOD Nvidia DGX, cioè un’infrastruttura “chiavi in mano” per data center specializzati sull’AI. Secondo quanto riporta Reuters, Colosseum comprenderà circa 80 rack Nvidia GB200 NVL72, ciascuno con 36 CPU Grace e 72 GPU Blackwell, le GPU di ultima generazione di Nvidia annunciate solo pochi mesi fa ed entrate nella fase di produzione di massa proprio in questo ultimo trimestre 2024.

iGenius si definisce una società di sviluppo di modelli software open source di intelligenza artificiale per settori altamente regolamentati, in particolare banche, sanità e pubblica amministrazione.

Utilizzerà il supercomputer Colosseum per realizzare applicazioni avanzate di AI, tra cui l’addestramento di AI generativa open-source e LLM con oltre un trilione (cioè un miliardo di miliardi) di parametri. Colosseum, spiega una nota, sarà dotato di un sistema di raffreddamento a liquido all’avanguardia e abiliterà perfomance di 115 exaflop (115 miliardi di miliardi di operazioni al secondo), il tutto alimentato da energia rinnovabile proveniente dall’Italia.

Nuovi modelli e microservizi gestibili in autonomia dai clienti

I modelli AI che iGenius svilupperà attraverso Colosseum utilizzeranno oltre ai rack GB200 NVL72 diverse altre soluzioni Nvidia, come la piattaforma software Nvidia AI Enterprise, l’architettura Nemotron e il framework NeMo, e saranno offerti come microservizi Nvidia NIM.

Igenius, continua la nota, permetterà ai clienti di utilizzare i nuovi modelli e i microservizi come applicazioni completamente gestite in autonomia, includendo opzioni cloud o soluzioni on-premise con tecnologia Nvidia per soddisfare normative industriali e governative in materia di AI.

Inoltre Colosseum fungerà da hub di collaborazione, collegando imprese, istituzioni accademiche e policymakers per promuovere un accesso equo alle tecnologie di intelligenza artificiale.

“Colosseum risponde alle crescenti esigenze computazionali dell’intelligenza artificiale con un’efficienza energetica 25 volte superiore rispetto alle piattaforme di computing Nvidia di precedente generazione”, spiega iGenius nella nota.

“È progettato per integrarsi perfettamente con i modelli di intelligenza artificiale specializzati di iGenius, tra cui il GPT for Numbers, un’architettura AI proprietaria progettata per ridurre al minimo le allucinazioni a supporto di casi d’uso mission-critical che coinvolgono dati finanziari, informazioni sui clienti e proprietà intellettuale. Tra i primi utilizzatori dei modelli di iGenius figurano società di gestione patrimoniale e finanziaria leader a livello mondiale”.

“Diversi team Nvidia stanno lavorando direttamente con iGenius”

iGenius non ha comunicato la sede esatta del supercomputer (si sa solo che sarà “in una regione del Sud Italia”) per ragioni di sicurezza, né dettagli sui costi del progetto, anche se il CEO Uljan Sharka (nella foto) ha dichiarato a Reuters che la startup è alla ricerca di capitale aggiuntivo oltre ai 650 milioni citati sopra.

“Abbiamo progettato questo supercomputer per casi d’uso da unicorno che possono generare oltre un miliardo di dollari di valore”, dichiara Sharka nel comunicato. “La combinazione della nostra esperienza software e del computing accelerato di Nvidia ci aiuta a sbloccare opportunità trasformative per risolvere sfide straordinarie, in passato irrisolvibili, nei settori della finanza, della sanità e della pubblica amministrazione, al servizio dei clienti di tutto il mondo”.

“Il supercomputer iGenius Colosseum Nvidia DGX SuperPod con superchip Grace Blackwell rappresenta una fabbrica di AI che accelererà lo sviluppo e la distribuzione di applicazioni di intelligenza artificiale conformi ai requisiti normativi e si allineano con le lingue e le culture locali”, aggiunge nella nota Charlie Boyle, vice president DGX platforms di Nvidia, che parlando con Reuters ha aggiunto: “Diversi team software e hardware di Nvidia stanno lavorando direttamente con iGenius per portare online il sistema: stanno costruendo davvero qualcosa di unico qui”.