Secondo Gartner, la disponibilità di massa di strumenti di IA generativa come ChatGPT di OpenAI e Google Bard è diventata una delle principali preoccupazioni per i responsabili dei rischi aziendali nel secondo trimestre del 2023.

“L’IA generativa è stata il secondo rischio più frequentemente nominato nella nostra indagine del secondo trimestre, comparendo nella top 10 per la prima volta” ha dichiarato Ran Xu, direttore della ricerca di Gartner Risk & Audit Practice. “Questo riflette sia la rapida crescita della consapevolezza e dell’utilizzo degli strumenti di IA generativa da parte del pubblico, sia l’ampiezza dei potenziali casi d’uso, e quindi dei potenziali rischi, che questi strumenti comportano”.

Nel maggio 2023, Gartner ha intervistato 249 dirigenti di alto livello che si occupano di rischi aziendali per fornire ai leader una visione comparata di 20 rischi emergenti. Il Quarterly Emerging Risk Report contiene informazioni dettagliate sul possibile impatto, sulla tempistica, sul livello di attenzione e sulle opportunità percepite per questi rischi.

La redditività di terze parti è il rischio emergente che le aziende stanno monitorando con maggiore attenzione nell’indagine del secondo trimestre del 23° anno. L’incertezza della pianificazione finanziaria è il terzo rischio in classifica, seguito dal rischio di concentrazione del cloud. Le tensioni commerciali con la Cina hanno completato la top five dei rischi, suddivisi tra questioni sintomatiche dell’attuale ampia volatilità macroeconomica e geopolitica e preoccupazioni legate alla tecnologia.

Disponibilità di massa di IA generativa

In termini di gestione del rischio aziendale, secondo gli esperti di Gartner è necessario affrontare tre aspetti principali:

Proprietà intellettuale

“Le informazioni inserite in uno strumento di IA generativa possono diventare parte del suo set di addestramento, il che significa che informazioni sensibili o riservate potrebbero finire negli output di altri utenti”, ha affermato Xu. “Inoltre, l’utilizzo dei risultati di questi strumenti potrebbe finire per violare inavvertitamente i diritti di proprietà intellettuale di altri che li hanno utilizzati”.

È importante educare la leadership aziendale alla cautela e alla trasparenza nell’uso di questi strumenti, in modo da poter mitigare adeguatamente i rischi legati alla proprietà intellettuale sia per quanto riguarda gli input che gli output degli strumenti di IA generativa.

Privacy dei dati

Gli strumenti di IA generativa possono condividere le informazioni degli utenti con terze parti, come venditori o fornitori di servizi, senza preavviso. Questo potrebbe violare la legge sulla privacy in molte giurisdizioni. Ad esempio, in Cina e nell’Unione Europea sono già state introdotte delle normative, mentre negli Stati Uniti, in Canada, in India e nel Regno Unito sono state presentate delle proposte di legge.

sap ia generativa

Sicurezza informatica

“Gli hacker testano sempre nuove tecnologie per trovare il modo di sovvertirle per i loro scopi e l’IA generativa non è da meno”, ha affermato Xu. “Abbiamo visto esempi di codice malware e ransomware che l’IA generativa è stata in grado di produrre con l’inganno, così come attacchi di tipo ‘prompt injections’ che possono indurre questi strumenti a fornire informazioni che non dovrebbero fornire. Questo sta portando all’industrializzazione di attacchi di phishing avanzati”.

Cause e implicazioni del rischio di redditività di terze parti

“Il persistere di un’inflazione meno reattiva agli aumenti dei tassi d’interesse e che si protrae più a lungo del previsto ha fatto aumentare i costi e le pressioni sui margini delle terze parti”, ha affermato Xu. “Quando le banche centrali aumentano i tassi di interesse per combattere l’inflazione, si verifica anche un processo di restrizione del credito che può costringere i fornitori a sospendere le operazioni o a diventare insolventi a causa dell’aumento dei costi di finanziamento”.

Se le condizioni economiche si deteriorano in modo generalizzato, ciò potrebbe causare un calo inaspettato della domanda che potrebbe influire sulla redditività dei fornitori o sulla loro capacità di fornire beni e servizi in modo tempestivo. Gli esperti di Gartner hanno individuato tre potenziali conseguenze sulla redditività di terze parti che i risk manager devono monitorare man mano che la situazione si sviluppa:

  • Perdita di input e materiali chiave: Se le terze parti aumentano i loro prezzi a causa della situazione economica generale, c’è il rischio evidente di perdere l’accesso a input e materiali chiave, poiché le terze parti favoriscono i clienti disposti a pagare prezzi più alti.
  • Ipotesi di pianificazione finanziaria errate: Le ipotesi sui costi non saranno più valide quando i fornitori aumenteranno i prezzi o falliranno, rendendo necessari costi di cambio e un aumento dei prezzi per ottenere beni e servizi.
  • Sfide esterne alla catena di fornitura: I partner, come i fornitori di servizi gestiti o i partner commerciali, i creditori o i fornitori di tecnologia possono cessare o ridurre le operazioni.