Google Cloud e Hugging Face hanno annunciato una nuova partnership strategica che consentirà agli sviluppatori di utilizzare l’infrastruttura di Google Cloud per tutti i servizi di Hugging Face, oltre a permettere di addestrare e integrare i modelli di Hugging Face su Google Cloud.

La partnership sostiene la missione di Hugging Face di democratizzare l’IA generativa e, allo stesso tempo, promuove il supporto di Google Cloud nello sviluppo di un ecosistema di IA open source. Con questa collaborazione, Google Cloud diventa un partner cloud strategico per Hugging Face e una risorsa privilegiata per i carichi di lavoro di addestramento e inferenza di Hugging Face. Gli sviluppatori potranno utilizzare facilmente l’infrastruttura ottimizzata per l’IA di Google Cloud, che include calcolo, unità di elaborazione tensoriale (TPU) e unità di elaborazione grafica (GPU) per addestrare e gestire modelli aperti e creare nuove applicazioni di IA generativa.

Questi gli obiettivi della partnership:

Hugging Face Logo Emoji

  • Mettere a disposizione degli sviluppatori nuove modalità di addestramento, perfezionamento e offerta di modelli Hugging Face con Vertex AI in pochi clic, in modo da poter utilizzare facilmente i servizi MLOps end-to-end di Google Cloud per creare applicazioni IA generativa di nuova generazione
  • Supportare i deployment di Google Kubernetes Engine (GKE), in modo che anche gli sviluppatori di Hugging Face possano sia addestrare, ottimizzare e distribuire i loro carichi di lavoro tramite un’infrastruttura “fai da te”, sia scalare i modelli utilizzando i container di deep learning specifici per Hugging Face su GKE
  • Consentire a un maggior numero di sviluppatori open source l’accesso a Cloud TPU v5e, che offre prestazioni superiori fino a 2,5 volte per dollaro e una latenza per l’inferenza fino a 1,7 volte inferiore rispetto alle versioni precedenti
  • Aggiungere un supporto futuro per le VM A3, alimentate dalle GPU Tensor Core H100 di NVIDIA, che offrono un training 3 volte più veloce e una larghezza di banda di rete 10 volte superiore rispetto alla generazione precedente
  • Utilizzare Google Cloud Marketplace per fornire una gestione e un servizio di fatturazione semplici per la piattaforma gestita da Hugging Face, che include Inference, Endpoints, Spaces, AutoTrain e altro.

“Con questa nuova partnership, permetteremo agli utenti di Hugging Face e ai clienti di Google Cloud di utilizzare in maniera semplice i modelli aperti più recenti, insieme all’infrastruttura IA ottimizzata e agli strumenti leader di Google Cloud, tra cui Vertex AI e le TPU, per aumentare in modo significativo le abilità degli sviluppatori di costruire i propri modelli IA” ha dichiarato Clement Delangue, CEO di Hugging Face.