Vantaggi e rischi dell’intelligenza artificiale per le aziende
Chatbot, veicoli autonomi e macchine connesse in fabbriche digitali anticipano ciò che sarà il futuro. L’implementazione diffusa di applicazioni di Intelligenza Artificiale (IA) porta molti vantaggi per le aziende, come maggiore efficienza, meno attività ripetitive e una migliore esperienza dei clienti; tuttavia, nelle mani sbagliate i rischi potenziali potrebbero controbilanciare gli enormi vantaggi.
La vulnerabilità agli attacchi informatici o ai guasti tecnici aumenterà, così come le potenziali interruzioni su vasta scala e di conseguenza le perdite finanziarie straordinarie, visto l’aumento dell’interconnessione tra le società e le economie. Le imprese dovranno, inoltre, far fronte a nuovi scenari di responsabilità relativi al processo decisionale, che passa dall’uomo alla macchina e al produttore.
Nel nuovo rapporto The Rise of Artificial Intelligence: Future Outlook and Emerging Risks Allianz Global Corporate & Specialty (AGCS) identifica sia i benefici sia i rischi emergenti legati alla crescente diffusione dell’IA nella società e nell’industria, compreso il settore assicurativo.
Oggi, le forme di base della IA sono in grado di eseguire compiti specifici, ma le future generazioni di applicazioni di IA cosiddette “strong” saranno in grado di risolvere problemi difficili ed eseguire transazioni complesse. L’IA sta trovando applicazione in quasi tutti i settori, dai chatbot che offrono consulenza finanziaria all’aiuto ai medici nella diagnosi del cancro.
La tecnologia è alla base delle automobili senza conducente (dove si stima possa contribuire a ridurre il numero di incidenti fino al 90%), per prevedere meglio il meteo, per effettuare i trasferimenti finanziari o per monitorare e far funzionare le macchine industriali. Secondo Accenture, entro il 2035 l’IA potrebbe raddoppiare il tasso di crescita economica annuale in 12 economie sviluppate.
Ma accanto ai potenziali vantaggi esistono anche dei rischi. I software basati sull’IA potrebbero contribuire a ridurre il rischio informatico per le aziende rilevando meglio gli attacchi, ma potrebbero anche aumentarlo se gli hacker malintenzionati fossero in grado di assumere il controllo di sistemi, macchine o veicoli.
L’IA potrebbe consentire il verificarsi di incidenti informatici più gravi e mirati riducendo i costi di ideazione degli attacchi. Lo stesso attacco hacker può essere replicato su numerose macchine. Si stima già che un grave attacco informatico a livello globale possa provocare perdite per oltre 50 miliardi di dollari, ma anche un’interruzione di mezza giornata presso un fornitore di servizi cloud può generare perdite per circa 850 milioni di dollari.
Per identificare i rischi emergenti dell’IA, AGCS si è concentrata su cinque aree: accessibilità del software, sicurezza, “accountability”, responsabilità ed etica. In termini di sicurezza, ad esempio, la corsa all’immissione sul mercato dei sistemi di intelligenza artificiale potrebbe portare a controlli insufficienti, che sarebbero invece necessari per garantire l’impiego di sistemi di intelligenza artificiale sicuri, funzionali e cibernetici. Ciò potrebbe portare a un aumento dei prodotti difettosi con il conseguente ritiro dal mercato.
Per quanto riguarda la responsabilità, in futuro i sistemi dell’IA potranno prendere molte decisioni al posto dell’uomo, ma non potranno essere ritenuti legalmente responsabili di esse. In generale, il produttore o il programmatore software dei sistemi IA è responsabile per i difetti che causano danni agli utenti. Tuttavia, le decisioni di IA che non sono direttamente correlate alla progettazione o alla produzione, ma che sono prese da un sistema IA a causa della sua interpretazione della realtà, non avrebbero alcuna parte responsabile esplicita, secondo la legge vigente.
Una soluzione alla mancanza di responsabilità giuridica consisterebbe nell’istituire agenzie o autorità competenti che elaborino un quadro di responsabilità in base al quale i progettisti, i fabbricanti o i venditori di prodotti IA siano soggetti a responsabilità civile limitata. Nel frattempo, gli assicuratori avranno un ruolo cruciale da svolgere nel contribuire a minimizzare, gestire e trasferire i rischi emergenti derivanti dalle applicazioni di IA. Le coperture tradizionali dovranno essere adattate per proteggere sia i consumatori sia le imprese.
