Jolivet (Nutanix): la nostra Enterprise AI punta a ridurre il TCO della IA generativa

“L’intelligenza artificiale si sta imponendo in tutte le conversazioni, ma distinguere l’hype dall’effettivo impatto sulla crescita non è semplice. Persino Gartner ammette di non saperne prevedere gli sviluppi”. Esordisce così Benjamin Jolivet, Country Manager di Nutanix sul palco dell’AI & Data Summit della casa.

Secondo Jolivet, siamo però alla fine della luna di miele: “Tanti clienti stanno facendo dei test, ma pochi arrivano a regime e stanno scalando le applicazioni: solo l’11 percento. La prima barriera all’adozione è la capacità di poterne stimare gli effetti e dimostrare i business case”.

Serve semplificare il percorso di adozione per permettere di cambiare approccio in corsa e scalare le risorse in modo da adattarsi ai modelli di utilizzo, e di costo, più adeguati alla soluzione in quel momento, e con questo obiettivo in mente Nutanix ha lanciato la sua soluzione Nutanix Enterprise AI, pochi giorni prima dell’evento.

La Enterprise AI di Nutanix

È toccato a Leonardo Boscaro, SEUR & MEDA Leader Modern Apps & Data di Nutanix entrare nel dettaglio della nuova soluzione, che si posiziona in cima allo stack. Se la precedente proposta era basata su GPT in a Box, che grazie a partnership con Nvidia e Hugging Face rappresentava una soluzione integrata, modulare e pronta all’uso per creare una IA privata on-prem, da fare poi scalare secondo il paradigma dell’iperconvergenza, Nutanix Enterprise AI si svincola completamente dall’infrastruttura e ne è indipendente, perché può essere eseguita su qualsiasi piattaforma Kubernetes, da quella della casa (NKP, Nutanix Kubernetes Platform) a OpenShift, agli orchestratori dei cloud pubblici.

Leonardo Boscaro, SEUR & MEDA Leader Modern Apps & Data di Nutanix

Enteprise AI permette quindi di spostare dati e carichi di lavoro in base alla migliore soluzione in termini di risorse o di costi. Un possibile utilizzo quindi è quello di usare la piattaforma su cloud pubblico o infrastrutture bare metal per le fasi di training e fine tuning, per poi spostare la fase di l’inferenza sull’infrastruttura cloud Nutanix.

Enterprise AI permette di selezionare un modello IA da Hugging Face, dal repository Nvidia o da una lista di modelli on-prem autorizzati, eseguirlo e predisporre endpoint sicuri per le API con le quali il modello può essere usato. A garantire l’accesso sicuro del modello ai dati aziendali sarà la soluzione del partner DataRobot, che offre funzionalità di embedding, database vettoriale e le funzionalità di front-end necessarie all’applicazione.

In un momento in cui in molti guardano a Nutanix come alternativa a VMware per la virtualizzazione e cloud privato, Nutanix sembra quindi già guardare oltre, verso la IA erogata via Kubernetes su un cloud ibrido.

Intervista a Benjamin Jolivet

Abbiamo chiesto al Country Manager Benjamin Jolivet di commentare l’attuale momento di Nutanix, sia a livello globale che nel nostro paese. Quali sono le esigenze concrete che Nutanix intende soddisfare con Enterprise AI?

“Molte delle attività che si fanno oggi con l’intelligenza artificiale sono legate al mondo cloud. Vediamo per esempio cose molto interessanti fatte da Microsoft con Open AI, ma ci sono anche altre soluzioni che girano su cloud diversi, e molte aziende stanno facendo esperimenti alla ricerca del proprio best fit”.

“Sappiamo però che l’83 percento dei dati aziendali non risiede in cloud, ma nell’Edge e nell’infrastruttura dell’azienda, dove il dato viene creato. Noi siamo partiti con le infrastrutture on-prem, ma oggi la nostra missione oggi è quella di costruire un ambiente ibrido che permetta di erogare il dato e le applicazioni in modalità multi cloud, qualsiasi sia la scelta del cliente in questo senso, nel modo più semplice e versatile”.

Oltre agli LLM erogati in cloud, vedete un interesse nei modelli rilasciati come open-source (o quasi) che si possono installare su propria infrastruttura?

“Alcuni clienti stanno testando e verificando l’utilità della IA generativa attraverso i servizi erogati dagli hyperscaler, ma poi vediamo crescere in loro la necessità di LLM più dedicati, che rispondono a regole ben definite, o in grado di soddisfare i requisiti di governance dei dati o tutela della proprietà intellettuale”

Quali sono i vantaggi della vostra soluzione AI Enterprise?

Bejamin Jolivet, Country Manager italia di Nutanix

“Il principio dell’architettura iperconvergente è quello di offrire in un nodo tutto quel che serve – computing, storage, networking e servizi – per permettere di scalare facilmente grazie all’architettura modulare. Allo stesso modo vogliamo abilitare l’AI privata che permettere di avviare un progetto per poi scalarlo non solo dal punto di vista delle risorse, ma anche da quello del Total Cost of Ownership, che rappresenta una grande preoccupazione per i CIO, perché è legato al costo a consumo dei token dei modelli pubblici.

“Con Enterprise AI il cliente è in grado di decidere il suo percorso, partendo dal cloud pubblico o dall’on-prem, a seconda del suo caso d’uso, e poi decidere di cambiare ambiente in base alle esigenze e al TCO, in modo molto flessibile”.

Di recente, in Italia siete stati coinvolti vostro malgrado in un caso di corruzione dei vertici di Sogei riguardo l’acquisto di una vostra soluzione da parte di una filiera anomala di rivenditori. Avete preso dei provvedimenti nei confronti dei vostri partner coinvolti?  

“Abbiamo appreso dell’evento dalla stampa come tutti. Non siamo indagati e nemmeno siamo stati contattati dalle autorità, delle quali rimaniamo a disposizione qualora servisse. Con i partner coinvolti abbiamo iniziato un’attività di audit per verificare le condotte. Credo che il coinvolgimento in attività di questo tipo sia dovuto al fatto che siamo in una fase di forte adozione della nostra piattaforma da parte della Pubblica Amministrazione, che vede nella nostra piattaforma una soluzione efficace per spostare la propria infrastruttura, nata sull’on-premises, sul nascente Polo Strategico Nazionale”.

Quando si ha a che fare con la PA bisogna quindi mettere in conto di essere coinvolti in operazioni poco chiare?

“Non è normale e non è accettabile. Nutanix sta sul mercato con un’etica e dei principi molto alti, e prendiamo nettamente le distanze da quanto accaduto”.

Ci sono già amministrazioni che usano Nutanix sul PSN?

“Ci stiamo lavorando, perché inizialmente il PSN non era nato per supportare la nostra piattaforma, ma diverse PA la utilizzano in quanto siamo inclusi nel Consip. Abbiamo quindi avviato dei tavoli di confronto – anche con la Commissione Difesa in Parlamento – per entrare in modo più deciso nell’offerta PSN”.

Come sta andando invece con le imprese?

“Il 2024 è stato un anno fiscale di forte accelerazione per noi, anche per via dell’effetto Broadcom (i grossi cambiamenti nell’offerta e nel listino prezzi di VMware a seguito dell’acquisizione, NrR) che ci ha portato molti nuovi contatti tra le aziende che avevano investito in quella tecnologia e ora stanno studiano la nostra piattaforma. Oltre a ciò c’è forte richiesta di piattaforme per l’erogazione di app moderne e native per il cloud, e ovviamente l’intelligenza artificiale. Su quel fronte, la sfida è nella riduzione del TCO una volta che i progetti entrano in produzione, e riteniamo che questo sia uno dei nostri punti di forza da sempre”.