L’influenza dei deepfake nelle comunicazioni istituzionali e politiche

I progressi degli strumenti di Artificial Intelligence (AI) oggi forniscono agli esponenti politici i mezzi per produrre annunci elettorali con immagini false generate al computer incredibilmente realistiche (deepfake) che rappresentano negativamente gli avversari.

L’approccio con cui viene sfruttata l’AI in politica è quello della narrazione per immagini, e necessita di ingredienti avvincenti che la ancorino nella mente del pubblico di riferimento. Una foto, un clip audio o un video sono espedienti utilizzati per essere credibili e rimanere impressi nella memoria delle persone.

La storia e la scienza insegnano che le bugie si diffondono molto più facilmente della verità e sono molto più difficili da rettificare. Nella mente umana, ciò che viene percepito corrisponde al reale ed è molto più difficile cambiare la percezione iniziale una volta che questa si è insediata.

Come provare definitivamente che qualcosa è falso?

Per essere efficace, l’AI ha bisogno di contenuti su cui essere istruita tramite machine learning. Supponendo che l’obiettivo sia la manipolazione del comportamento umano e il cambiamento delle proprie convinzioni, l’enorme quantità di audio, video e immagini che sono disponibili nella sfera politica rappresentano un ottimo punto di partenza.

Questo fenomeno ha generato un importante dilemma legale e tecnico: come è possibile provare definitivamente che qualcosa è falso?

Nel 2023, l’AI è riuscita a creare delle condizioni per le quali la facoltà di ancorare nelle menti degli elettori una percezione intenzionalmente falsa e di ignorare la verità, anche attraverso i deepfake, potrà essere considerata come la migliore arma politica.

Un’AI addestrata come “forza del bene”

Un modo per sconfiggere l’AI pensata per fare del male è attraverso l’utilizzo di un’AI addestrata a produrre del bene. Non si può cedere il campo di battaglia digitale agli avversari limitando la capacità delle persone buone di creare e innovare. L’AI come “forza del bene” è uno dei migliori alleati che abbiamo per fidarci di ciò che vediamo e sentiamo.

SentinelOne, fornitore di una piattaforma di cybersecurity con capacità di autonomous response, sta investendo in modo significativo nelle tecnologie di intelligenza artificiale generativa per aiutare in tutte le attività di ricerca e risposta alle minacce informatiche, compresi anche i controlli su immagini e video deepfake ingannevoli.

di Paolo Cecchi

Regional Sales Director Mediterranean Region

SentinelOne