L’intelligenza artificiale sta rivoluzionando la produttività dei knowledge worker grazie a “robot della conoscenza” capaci di gestire una vasta gamma di compiti. Tuttavia, per sviluppare agenti IA sicuri e affidabili, le aziende devono affrontare sfide cruciali legate a fiducia, sicurezza e conformità.

Per rispondere a queste esigenze, NVIDIA ha presentato nuovi microservizi NIM (NVIDIA Inference Microservices) come parte della collezione NeMo Guardrails. Questi strumenti permettono alle aziende di migliorare la sicurezza, precisione e scalabilità delle applicazioni di intelligenza artificiale generativa.

I nuovi microservizi NIM consentono agli sviluppatori di creare agenti IA sicuri, capaci di fornire risposte appropriate nel rispetto di linee guida contestuali e di resistere a tentativi di “jailbreak” progettati per aggirare le restrizioni del sistema. Queste soluzioni sono già impiegate in settori come finanza, sanità, manifattura e retail, dove migliorano la fiducia e la soddisfazione dei clienti.

Tra i microservizi introdotti spiccano:

  • Content safety NIM microservice: impedisce all’IA di generare risultati distorti o dannosi, assicurando che le risposte siano in linea con gli standard etici
  • Topic control NIM microservice: mantiene le conversazioni focalizzate su argomenti approvati, evitando digressioni o contenuti inappropriati
  • Jailbreak detection NIM microservice: protegge contro tentativi di manipolazione delle risposte dell’IA, garantendo l’integrità del sistema

Grazie a modelli linguistici leggeri e specializzati, i NeMo Guardrails di NVIDIA offrono una latenza ridotta e operano efficacemente anche in ambienti con risorse limitate come ospedali o magazzini, risultando ideali per l’adozione su larga scala.

I NeMo Guardrails sono già stati adottati da aziende leader come Amdocs, Cerence AI e Lowe’s, ognuna delle quali ha integrato queste soluzioni nei propri sistemi per migliorare sicurezza e controllo.

RAG-aditi-llm-nemo-guardrails-diagram-devzone-1920x1089

Amdocs, fornitore globale di soluzioni software, ha integrato i NeMo Guardrails di NVIDIA nella piattaforma amAIz, migliorando le capacità di Trusted AI e consentendo interazioni sicure e affidabili. Cerence AI, azienda specializzata in assistenti vocali per il settore automobilistico, utilizza NeMo Guardrails per garantire risposte appropriate e prive di errori, personalizzabili per i clienti nel settore automotive, mentre Lowe’s, importante retailer, sfrutta i Guardrails per potenziare gli assistenti generativi IA, aiutando i dipendenti a fornire risposte precise e migliorando l’esperienza d’acquisto dei clienti.

Per facilitare l’adozione, NVIDIA ha reso disponibile Garak, un toolkit open-source che consente agli sviluppatori di identificare vulnerabilità nei sistemi IA come fughe di dati, iniezioni di prompt e scenari di jailbreak.

I microservizi NeMo Guardrails, insieme agli strumenti di orchestrazione e al toolkit Garak, sono disponibili per sviluppatori e aziende. NVIDIA offre anche una guida per iniziare a implementare queste soluzioni nei sistemi IA aziendali, migliorando sicurezza e controllo.