Dell Technologies accelera sulla GenAI con novità su storage e streaming dati
Dell Technologies continua a investire in soluzioni per fornire prestazioni più rapide nei progetti di intelligenza artificiale e GenAI (IA generativa) grazie alle novità relative allo storage enterprise e alla convalida sull’infrastruttura AI NVIDIA DGX SuperPOD.
“Le prestazioni storage sono un elemento critico per il successo delle iniziative IA e GenAI” ha dichiarato Arthur Lewis, presidente dell’Infrastructure Solutions Group di Dell Technologies. “I clienti si affidano a noi per estendere costantemente i limiti dell’innovazione storage, eliminando per esempio quei colli di bottiglia nell’accesso ai dati che limitano il throughput e la scalabilità delle applicazioni a calcolo intensivo. La nostra risposta a queste richieste è un accesso veloce, efficiente e sicuro ai dati per trasformarli nelle potenzialità offerte dalla IA e dalla GenAI”.
Prestazioni ed efficienza per lo storage IA
Le novità riguardanti il sistema scale-out per file storage Dell PowerScale, disponibili da questo mese, affrontano la crescente richiesta espressa dai clienti di superiori prestazioni per la GenAI. Con i nuovi aggiornamenti software di PowerScale OneFS, le aziende possono preparare, addestrare, ottimizzare e fare inferenza con i modelli IA più velocemente. Con i nuovi sistemi storage all-flash PowerScale basati sull’ultima generazione di server Dell PowerEdge (disponibilità nella prima metà del 2024), è possibile raggiungere fino al doppio delle prestazioni nelle operazioni di lettura e scrittura in streaming.
PowerScale offrirà una nuova capacità smart scale-out per aumentare le prestazioni di ciascun nodo di calcolo migliorando l’utilizzo della GPU, con conseguente innalzamento del throughput storage per il training, il checkpointing e l’inferenza dei sistemi IA.
“Siamo assolutamente consci delle esigenze dei clienti affinché possano modernizzare le loro infrastrutture con fondamenta AI-ready in grado di supportare i workload più intensivi come per esempio quelli della IA generativa” ha affermato Scott Sinclair, practice director di Enterprise Strategy Group. “Con i nuovi miglioramenti prestazionali raggiunti da PowerScale, è possibile migliorare il training e l’ottimizzazione dei modelli AI per prendere decisioni di business basate sui dati, ovunque essi risiedano”.
Dell PowerScale in fase di convalida su NVIDIA DGX SuperPOD
Grazie alla collaborazione tra Dell e NVIDIA, i clienti potranno trarre vantaggio da una combinazione di sistemi NVIDIA DGX, storage Dell PowerScale e soluzioni di rete NVIDIA Quantum-2 InfiniBand e Spectrum Ethernet, il tutto con lo scopo di aumentare velocità ed efficienza dello storage IA. Si prevede che la soluzione Dell sarà la prima soluzione storage Ethernet convalidata su NVIDIA DGX SuperPOD.
Con la convalida di Dell PowerScale su NVIDIA DGX SuperPOD (l’infrastruttura chiavi in mano di NVIDIA per i data center IA) attesa nel primo trimestre 2024, i clienti potranno accelerare le rispettive iniziative IA e GenAI facendo leva sui sistemi network-attached storage Dell. NVIDIA DGX SuperPOD comprende la piattaforma software NVIDIA AI Enterprise per creare una soluzione di supercomputing per AI full-stack sicura e stabile.
Estensione dell’IA ai dati ovunque essi risiedano
L’altra novità riguarda Dell APEX File Storage per Microsoft Azure, che introduce prestazioni e funzionalità di gestione di classe enterprise per lavorare con i file all’interno di Microsoft Azure. I clienti, a partire dalla prima metà del prossimo anno, potranno così soddisfare le necessità delle applicazioni IA e di machine learning ad alte prestazioni come Azure OpenAI Service e Azure AI Vision.
Dell APEX File Storage all’interno di AWS e Azure permette ai clienti di sfruttare workflow IA e GenAI cloud-native sui dati residenti on-premises o nei cloud pubblici migliorando l’accesso e la movimentazione dei dati stessi. Per esempio, grazie alla collaborazione tra Dell e Databricks, i clienti possono scegliere all’interno di una varietà di LLM (Large Language Model) e utilizzare le librerie Databricks MosaicML per riaddestrare un modello fondamentale con i dati residenti su Dell APEX File Storage, ottenendo così flessibilità all’interno degli ambienti multicloud.
Inoltre, grazie al data lakehouse di Dell, i clienti possono ricavare insight dai dati ovunque questi si trovino mediante l’integrazione del software di analytics Starburst con i server Dell PowerEdge e con i sistemi storage a file e a oggetti Dell PowerScale, Dell ECS e Dell ObjectScale.