Perché l’integrità del nostro ambiente informatico sta diventando importante quanto l’intelligenza dei sistemi che realizziamo
Di solito si parla di intelligenza artificiale in termini di ciò che è in grado di fare. Può aiutare a scoprire nuovi farmaci, scrivere software, analizzare enormi set di dati, tradurre lingue ed eseguire compiti che un tempo richiedevano una notevole quantità di tempo e competenze umane. Ma c’è un’altra questione che merita maggiore attenzione: quale impatto ha l’IA sull’ambiente in cui decidiamo cosa è vero?
Questa è la questione che ho approfondito di recente in un articolo preparato per il Simposio Globale AI4Peace tenutosi a Roma. La mia tesi era che una delle sfide più rilevanti poste dall’intelligenza artificiale non è semplicemente la produzione di informazioni false, bensì il graduale degrado dell’ambiente informativo condiviso da cui dipendono le società funzionanti.
L’IA generativa ha ridotto drasticamente il costo di produzione di contenuti sintetici convincenti. È possibile fabbricare immagini, clonare voci e creare narrazioni plausibili in pochi secondi. La risposta immediata si è comprensibilmente concentrata sull’individuazione di tali creazioni, e sono certamente necessari migliori sistemi di autenticazione, standard di provenienza e misure di salvaguardia relativi ai media sintetici.
Ma la fabbricazione è solo una parte del problema. La questione più complessa riguarda ciò che accade dopo che le informazioni entrano nell’ecosistema digitale. I sistemi di raccomandazione decidono ciò che miliardi di persone vedono ogni giorno, e tali sistemi sono stati in gran parte ottimizzati in funzione del coinvolgimento piuttosto che dell’accuratezza, del contesto o della complessità.
L’indignazione, la certezza e i contenuti che confermano le convinzioni esistenti spesso hanno una diffusione maggiore rispetto a quelli che le relativizzano, le complicano o le mettono in discussione. L’intelligenza artificiale rende questa dinamica ancora più potente, consentendo la creazione di contenuti su scala enorme, la personalizzazione dei messaggi per un pubblico specifico e una crescente efficacia dei sistemi nel catturare l’attenzione.
Il pericolo non sta semplicemente nel fatto che le persone credano a singole informazioni errate. Sta piuttosto nel fatto che la fiducia nell’ambiente informativo stesso inizi a indebolirsi. Quando quasi ogni immagine può essere fabbricata, ogni voce clonata e ogni evento ricostruito in modo convincente, lo scetticismo può diffondersi dal falso al vero. Il risultato finale potrebbe essere non tanto una società in cui le persone credono a tutto, quanto una in cui si sentono in grado di credere a quasi tutto.
Le democrazie non hanno mai fatto affidamento sul fatto che tutti fossero d’accordo tra loro. Il dissenso è essenziale per loro. Ma un dissenso produttivo richiede comunque un terreno comune: la capacità di stabilire che certe cose sono accadute e altre no, la convinzione che le prove contino, e istituzioni in grado di accertare i fatti con un ragionevole grado di credibilità.
Una volta che quel terreno comune comincia a scomparire, il dissenso politico cambia carattere. Le persone non discutono più solo su ciò che si dovrebbe fare. Discutono sempre più spesso su ciò che è reale.
Gli eventi recenti ci avvertono di dove ciò possa portare. In seguito agli omicidi avvenuti a Southport, nel Regno Unito, nel 2024, informazioni false sull’identità e il background dell’aggressore si sono diffuse rapidamente online prima ancora che fossero stati accertati i fatti di base. Durante le elezioni presidenziali rumene del 2024, un’attività online coordinata che coinvolgeva piattaforme social, reti di bot e contenuti manipolati è diventata parte di una crisi così grave da indurre la Corte costituzionale del Paese ad annullare il risultato del primo turno. Negli Stati Uniti, gli elettori del New Hampshire hanno ricevuto chiamate automatiche generate dall’intelligenza artificiale che utilizzavano una versione sintetica della voce del presidente Joe Biden per incoraggiarli a non votare alle primarie presidenziali dello Stato del 2024.
Le tecnologie e le circostanze erano diverse, ma la lezione più ampia è simile. L’integrità dell’ambiente informativo non può più essere trattata come una questione tecnologica marginale. Sta diventando parte integrante dell’infrastruttura della società democratica.
I governi hanno iniziato a reagire. Il Digital Services Act e l’AI Act europei rappresentano seri tentativi di garantire maggiore responsabilità, trasparenza e tutele in ambito tecnologico. Sono importanti, ma la regolamentazione avrà inevitabilmente difficoltà a stare al passo con un problema che si evolve così rapidamente.
Le norme possono imporre l’obbligo di divulgazione. Le autorità di regolamentazione possono indagare sulle piattaforme. I governi possono vietare determinate pratiche. Ciò che la legislazione trova molto più difficile da modificare è la struttura degli incentivi di un’economia dell’informazione costruita attorno alla cattura dell’attenzione.
Se l’indignazione genera più coinvolgimento delle sfumature, esiste una ragione commerciale per amplificarla. Se la disinformazione carica di emotività viaggia più velocemente di una correzione accuratamente qualificata, rimuoverla diverse ore dopo non ne cancella l’effetto. La regolamentazione può affrontare i contenuti dannosi senza necessariamente modificare i sistemi che rendono tali contenuti commercialmente attraenti in primo luogo.
Ecco perché la risposta non può spettare solo ai governi. Le aziende tecnologiche, gli sviluppatori di IA, le università, i ricercatori, le organizzazioni della società civile e le istituzioni etiche detengono ciascuno una parte diversa della soluzione. Sono necessari standard tecnici migliori per stabilire la provenienza dei contenuti. I ricercatori indipendenti hanno bisogno di un accesso significativo ai dati affinché i sistemi di raccomandazione possano essere studiati adeguatamente. L’istruzione deve porre maggiore enfasi sull’approccio critico alle informazioni.
Le aziende tecnologiche devono inoltre confrontarsi con una questione più ampia. La conformità è importante, ma lo è anche il contesto civico che le loro scelte progettuali contribuiscono a creare.
Nulla di tutto ciò richiede un atteggiamento pessimistico nei confronti dell’intelligenza artificiale. L’IA sta già accelerando le scoperte scientifiche, migliorando l’assistenza sanitaria, aumentando la produttività, supportando il monitoraggio ambientale e aiutando le persone a comunicare oltre i confini linguistici e culturali. La sua capacità di migliorare la vita umana rimane enorme.
Le stesse tecnologie che creano nuovi rischi possono anche contribuire ad affrontarli. I sistemi di IA potrebbero migliorare la provenienza e la verifica delle informazioni. I sistemi di raccomandazione potrebbero essere progettati per esporre gli utenti a prospettive alternative credibili, anziché rafforzare all’infinito le convinzioni esistenti. L’IA potrebbe aiutare a identificare le manipolazioni coordinate, facilitare il dialogo tra le comunità e rendere più facile la ricerca di informazioni di alta qualità.
La questione centrale non è quindi se l’IA sia buona o cattiva. È quali obiettivi scegliamo quando la progettiamo e la implementiamo.
Ciò è strettamente connesso alla filosofia alla base dell’Human Code di NJF Holdings. Questo quadro parte dal principio che il progresso tecnologico dovrebbe, in ultima analisi, rafforzare l’autonomia umana e la prosperità dell’umanità. Ciò significa chiedersi non solo cosa una tecnologia possa realizzare, ma anche quale tipo di società i suoi incentivi e i suoi sistemi incoraggino.
La prossima fase dell’IA richiederà più che modelli sempre più capaci. Richiederà anche che le aziende, le istituzioni e i responsabili politici siano disposti a riflettere seriamente sull’ambiente informativo che tali modelli contribuiscono a creare.
Si è tentati di considerare la disinformazione come una responsabilità altrui. I governi dovrebbero regolamentarla, le piattaforme dovrebbero moderarla e le aziende tecnologiche dovrebbero individuarla. Tutti e tre hanno un ruolo importante, ma la sfida più profonda è anche di natura culturale.
Le società sane dipendono dalla curiosità, dall’umiltà intellettuale e da una certa disponibilità a confrontarsi con persone che vedono il mondo in modo diverso. Hanno bisogno di cittadini in grado di distinguere le prove dalle affermazioni senza presumere che il disaccordo di per sé sia indice di malafede. Queste qualità non possono essere semplicemente create per legge.
La tecnologia può rafforzarle o indebolirle. I sistemi informativi che vengono costruiti oggi plasmeranno il modo in cui miliardi di persone comprenderanno il mondo per decenni, quindi non dovrebbero essere giudicati solo in base a quanto diventano intelligenti, alla rapidità con cui rispondono o al successo con cui catturano l’attenzione.
Dovrebbero essere giudicati anche in base alla loro capacità di aiutare le persone a comprendersi a vicenda, di preservare la distinzione tra informazioni autentiche e sintetiche e di proteggere il terreno comune su cui si fondano le società pluralistiche.
L’IA non deve necessariamente farci concordare. Ma dovrebbe lasciarci la capacità di dissentire sulla stessa realtà.
Nicole Junkermann è un’imprenditrice e investitrice internazionale, nonché fondatrice di NJF Holdings. Attraverso NJF Capital e la più ampia piattaforma di investimento NJF Holdings, ha investito in aziende tecnologiche nei settori dell’intelligenza artificiale, della sicurezza informatica, della tecnologia sanitaria e in altre aree delle tecnologie emergenti. Il suo Human Code esplora come il progresso tecnologico possa rafforzare le capacità, la resilienza e l’autonomia umana.