IBM ha annunciato il rilascio della sua famiglia più avanzata di modelli IA, Granite 3.0, durante l’evento annuale TechXchange. Questi LLM di terza generazione si distinguono per le loro prestazioni, trasparenza e sicurezza, superando o eguagliando i modelli di dimensioni simili di altri fornitori su benchmark accademici e industriali. I modelli Granite sono resi disponibili sotto licenza Apache 2.0, offrendo così un’ampia flessibilità e autonomia per i clienti aziendali e la comunità open-source.

La famiglia Granite 3.0 comprende modelli linguistici generali e modelli dedicati alla sicurezza e ai guardrails, oltre ai modelli “Mixture-of-Experts” (MoE), che bilanciano prestazioni elevate e costi ridotti. I modelli principali, Granite 3.0 8B e 2B, sono progettati per compiti come la generazione aumentata dal recupero di informazioni (RAG), la classificazione, il riassunto e l’estrazione di entità. Questi modelli possono essere facilmente integrati nei flussi di lavoro aziendali, ottimizzando i dati specifici dell’impresa.

IBM ha introdotto anche la tecnica InstructLab, sviluppata in collaborazione con RedHat, che consente di ottenere prestazioni paragonabili ai modelli più grandi utilizzando modelli più piccoli e a costi inferiori, riducendo le spese di gestione delle IA di grande scala. I modelli Granite sono progettati con un’attenzione particolare alla trasparenza e alla sicurezza, con documentazione dettagliata su dataset e tecniche di filtraggio utilizzati per il loro addestramento.

Granite_banner 1

In termini di prestazioni, i modelli Granite 3.0 hanno ottenuto ottimi risultati su benchmark accademici e di sicurezza, superando in media i modelli open-source di Meta e Mistral. In particolare, il modello Granite 3.0 8B Instruct ha dimostrato prestazioni superiori nelle applicazioni aziendali chiave, come l’uso di strumenti e la sicurezza informatica. I modelli sono stati addestrati su oltre 12 trilioni di token in 12 lingue naturali e 116 linguaggi di programmazione, utilizzando un innovativo metodo di addestramento in due fasi.

IBM ha inoltre lanciato i modelli Granite Guardian 3.0 pensati per implementare guardrails di sicurezza nelle applicazioni IA, verificando i prompt degli utenti e le risposte dei modelli per una varietà di rischi, tra cui bias sociali, tossicità, violenza e rilevanza contestuale. Questi modelli sono stati testati su 19 benchmark di sicurezza, dimostrando un’accuratezza superiore rispetto ai modelli di sicurezza di Meta.

IBM, che sta collaborando con un ampio ecosistema di partner (tra cui AWS, Salesforce e SAP) per integrare i modelli Granite nelle piattaforme di terze parti, sta anche evolvendo le sue tecnologie di assistente IA come watsonx Orchestrate, che consente alle aziende di costruire assistenti IA su misura con strumenti low-code e automazioni predefinite per compiti specifici, come il servizio clienti o la modernizzazione dei sistemi IT legacy.

Nel contesto dell’evoluzione della sua piattaforma di consulenza AI-powered, IBM ha infine annunciato l’espansione di IBM Consulting Advantage, una piattaforma multi-modello che integra agenti IA e applicazioni per migliorare la velocità e il valore dei progetti IA per i clienti. I modelli Granite 3.0 diventeranno il modello di default per questa piattaforma, migliorando ulteriormente l’efficienza e le prestazioni delle consulenze IA.