Man mano che l’adozione di piattaforme di IA generativa diventa sempre più popolare tra le aziende, non sorprende che siano cresciute anche le preoccupazioni sulla possibile perdita di controllo sulle informazioni aziendali che vengono inserite dai dipendenti. Che si tratti di informazioni personali di terzi o di segreti industriali, è possibile che una volta inseriti in una chat con un modello di IA, questi dati finiscano per essere usati nell’addestramento di versioni successive, o in ogni caso vengono archiviati nello storico delle conversazioni su server non sotto il diretto controllo dell’azienda.

In questo scenario, S2E ha sviluppato GenerativeShield, una soluzione SaaS che permette alle aziende di controllare e filtrare le informazioni che i dipendenti inseriscono nei prompt dei modelli linguistici come ChatGPT, allo scopo di garantire policy e governance delle informazioni. La piattaforma è conforme al GDPR e garantisce una forte politica “no-logs” per quanto riguarda le richieste degli utenti e le risposte dei modelli.

GenerativeShield integra in modo nativo tutti i principali modelli di intelligenza artificiale generativa, tra cui OpenAI GPT3.5/GPT4, Aleph Alpha, Ai21 Labs e Cohere, dando agli utenti la possibilità di scegliere il modello più adatto al loro caso d’uso specifico. Su questo versante S2E continua a monitorare il mercato e l’evoluzione di queste piattaforme sia per integrare le nuove soluzioni che emergeranno (come Google Bard appena sarà disponibile in Europa), sia per mantenere aggiornato il portafoglio di modelli disponibili dai service provider già integrati.

“Contestualmente, S2E sta lavorando per addestrare, sia internamente, sia tramite partner tecnologici che coprono verticali di mercato specifici, modelli “specifici” per industria e intenti non generalisti, al fine di ampliare il portafoglio di servizi integrati per coprire le necessità delle aziende, mantenendo al tempo stesso la medesima esperienza d’uso e una singola piattaforma che ne semplifichi l’utilizzo e l’adozione” ha dichiarato Andrea Cappelletti, Business Unit Director Digital Transformation&Hyperautomation di S2E.

generativeshield

GenerativeShield riduce inoltre il rischio di divulgazione di dati sensibili fornendo “filtri” dedicati che identificano e notificano agli utenti la presenza di tali dati all’interno dei prompt. Le aziende possono quindi controllare come bloccare questi dati o decidere se consentire agli utenti di approvarne la condivisione esterna.

“La nostra proposta è diversa da quella di soluzioni CASB/DLP attualmente sul mercato, che sebbene estremamente efficaci per intervenire in ottica di minacce, protezione e configurazione dei servizi SaaS, non prevedono un esperienza d’uso in grado di rendere consapevole dei rischi correlati ai contenuti dei prompt durante l’interazione con servizi di terze parti. Riteniamo che la specificità di GenerativeShield dia una risposta più efficace alle aziende che hanno la necessità di mitigare questi rischi nell’immediato e con un approccio specifico alle peculiarità di queste interazioni”, continua Cappelletti.

GenerativeShield offre un’esperienza d’uso simile a quella di una chat sia su dispositivi desktop che mobili, indipendentemente dai modelli di intelligenza artificiale generativa utilizzati. Gli utenti possono interagire con un singolo modello o con un elenco di modelli, confrontare le risposte e decidere con quali modelli interagire. In base ai casi d’uso previsti, GenerativeShield esegue un Prompt Engineering automatico per interagire correttamente con il modello scelto e fornisce agli utenti suggerimenti e linee guida per ottimizzare il prompt e ottenere i risultati desiderati. L’infrastruttura è interamente basata su Amazon Web Services in Europa e, come già accennato, rispetta gli standard GDPR relativi al trattamento dei dati personali.