Indice dell'articolo

Oracle ha annunciato HeatWave GenAI, una soluzione che coniuga la tecnologia database con i Large Language Model, in due diversi modi. Da un lato, integra un LLM che permette di interrogare i dati usando linguaggio naturale. Dall’altro, include funzionalità di archiviazione vettoriale per consentire a qualsiasi LLM esterno di lavorare con i dati aziendali senza la necessità di spostarli su un diverso database vettoriale.

Parliamo di un’importante innovazione nell’ambito di HeatWave, piattaforma già nota per aver fuso le capacità del database con le potenzialità del Machine Learning e dell’analisi dati e aver integrato Lakehouse per l’elaborazione di dati residenti in un Object Storage, supportando i più noti formati come JSON, Avro, Parquet e CSV. HeatWave GenAI contribuisce a questo scenario fornendo tutto ciò che serve per l’applicazione dell’Intelligenza Artificiale generativa ai dati aziendali, senza richiedere competenze in termini di sviluppo di modelli dati e applicazioni di Gen AI.

Con questa innovazione si permette ad aziende e sviluppatori di abbattere tutte le barriere che tendono a frenare l’applicazione della AI generativa sul proprio patrimonio informativo come la ricerca di un LLM adatto, le migrazioni di dati verso l’esterno con relativi costi, tempi di latenza, gestione della sincronizzazione, rischi per la sicurezza. Oracle dichiara inoltre che, viste le prestazioni di HeatWave, non sarà necessario ricorrere a grandi cluster di GPU.

Le funzionalità di HeatWave GenAI

In dettaglio, le funzioni innovative di HeatWave GenAI includono:

Gli LLM in-database facilitano lo sviluppo di applicazioni di intelligenza artificiale generativa perché consentono di cercare dati, generare o riassumere contenuti e eseguire RAG (Retrieval-Augmented Generation) con HeatWave Vector Store, senza dover dipendere da soluzioni esterne. È possibile combinare l’IA generativa con altre funzionalità di HeatWave come AutoML.

Il Vector Store automatizzato nel database permette di applicare i modelli di IA generativa ai documenti aziendali eliminando la necessità di spostare i dati o avere competenze specialistiche. Tutti i passaggi per creare un vector store sono automatizzati ed eseguiti all’interno del database.

L’elaborazione vettoriale distribuita scale-out offre risultati di ricerca semantica rapidi senza perdita di accuratezza. HeatWave supporta un nuovo tipo di dati VECTOR nativo e un’implementazione ottimizzata della funzione di distanza, consentendo agli utenti di utilizzare query semantiche con il linguaggio SQL standard.

HeatWave Chat è un plug-in Visual Code per MySQL Shell che fornisce un’interfaccia grafica per HeatWave GenAI. Permette agli sviluppatori di porre domande in linguaggio naturale o SQL, mantenendo il contesto della conversazione e fornendo citazioni delle fonti. Il Lakehouse Navigator integrato permette inoltre di selezionare i file dall’object storage e la creazione dei Vector Store.

Semplificare l’introduzione della Gen AI in azienda

“HeatWave GenAI rende estremamente facile sfruttare la generative AI” afferma Vijay Sundhar, Chief Executive Officer di SmarterD. “Il supporto per gli LLM e la creazione di vettori direttamente nel database porta a una significativa riduzione della complessità, una latenza prevedibile in fase di inferenza e – soprattutto – nessun costo aggiuntivo per l’utilizzo di LLM o per creare gli embedding”.

HeatWave GenAI sarà sin da subito disponibile, senza costi aggiuntivi, per tutti i clienti HeatWave in ogni regione OCI (Oracle Cloud Infrastructure), nelle OCI Dedicated Region e vari altri cloud.

Le prestazioni dichiarate mostrano che HeatWave GenAI si presenta come una perfetta macchina da produzione in quanto Oracle dichiara essere, per il vector processing, 30 volte più veloce di Snowflake, 18 volte di Google BigQuery e 15 volte rispetto a Databricks.