Quest’estate ha portato con sé una serie di episodi inquietanti alle frontiere dell’intelligenza artificiale. Durante alcune valutazioni interne sulla sicurezza informatica, agenti autonomi basati sull’IA hanno intrapreso azioni non autorizzate dai loro progettisti. In un caso, un modello OpenAI, testato in un ambiente deliberatamente configurato con misure di sicurezza ridotte e con l’accesso alla rete instradato attraverso un registro software ospitato internamente, è riuscito a sfuggire ai controlli e ha raggiunto i sistemi di produzione di Hugging Face, un’azienda che non avrebbe mai dovuto raggiungere. Spinta da tale rivelazione, Anthropic ha esaminato oltre cent quaranta mila delle proprie sessioni di valutazione e ne ha individuate tre in cui un modello aveva raggiunto, analogamente, sistemi operativi di organizzazioni reali. Separatamente, i ricercatori hanno dimostrato che un connettore per sviluppatori Microsoft ampiamente utilizzato avrebbe trasmesso a un assistente di IA istruzioni nascoste all’interno di un documento, comandi che lo strumento non aveva modo di distinguere dai dati ordinari.
L’interpretazione più ovvia è che le macchine stiano diventando pericolose. Ritengo che tale interpretazione, sebbene comprensibile, trascuri il punto più importante, nonché quello su cui vale maggiormente la pena investire.
Non si trattava di tre versioni dello stesso errore di disattenzione. Erano fallimenti diversi con un unico problema alla base: ai controlli progettati per una generazione di software veniva chiesto di contenerne un’altra. Il software che abbiamo impiegato decenni a rendere sicuro risponde a una domanda e attende che gli venga posta la successiva. Un agente è una cosa completamente diversa. Dategli un obiettivo invece di una domanda e lui pianifica, richiama strumenti, scrive ed esegue codice, accede ai servizi e continua fino a quando il lavoro non è completato o non si arrende, il tutto senza chiedere conferma. Ha bisogno di quattro cose che il software ordinario non ottiene mai: credenziali, accesso agli strumenti, capacità di raggiungere una rete e il permesso di agire senza supervisione. L’architettura pensata per controllarlo, l’identità verificata anziché presunta, la provenienza che accompagna ogni testo, il monitoraggio che registra ciò che un agente ha fatto e non solo ciò che ha detto, sono state costruite per un tipo di programma più tranquillo. Ora gli viene chiesto di sostenere un peso che non è mai stato progettato per sopportare.
È qui che vedo qualcosa di diverso da una semplice questione di sicurezza. Dietro la corsa alla creazione di modelli sempre più capaci, deve emergere un intero strato di infrastruttura, e la maggior parte di esso non esiste ancora. L’architettura di verifica e supervisione alla base dei sistemi autonomi sarà l’infrastruttura del prossimo decennio, così come i sistemi di pagamento e i protocolli di rete sono stati l’infrastruttura di quello scorso. Il capitale è ancora concentrato nei modelli stessi, il livello visibile ed entusiasmante. Una parte relativamente esigua è destinata a quei meccanismi poco appariscenti che renderanno quei modelli sicuri da implementare in modo autonomo su larga scala. Quella distanza tra dove si trovano i fondi e dove si sta dirigendo il bisogno non è un segnale di allarme. Per chiunque abbia il compito di individuare il livello abilitante prima che il mercato ne riconosca l’importanza, è un’opportunità.
Si è tentati di interpretare gli incidenti come prova che i laboratori all’avanguardia siano carenti in materia di sicurezza. La verità è piuttosto l’opposto. Il motivo per cui sono proprio queste aziende a portare alla luce i fallimenti è che sono state le prime a scontrarsi con il problema. Hanno verificato i propri test, contattato le organizzazioni in cui si erano imbattute, pubblicato ciò che avevano scoperto e invitato i propri concorrenti a fare lo stesso. Non sono le uniche a essere imprudenti. Sono semplicemente molto più avanti, il che significa che stanno mostrando al resto dell’economia, in tempo reale, ciò che sta per affrontare. Ogni impresa che ora si affretta a implementare agenti sta andando incontro allo stesso ostacolo che queste aziende hanno appena incontrato, con strumenti di monitoraggio molto più limitati per accorgersene nel momento stesso in cui accade.
Ed è qui che la crescente intelligenza dei modelli contrasta con la versione rassicurante dei fatti. Sarebbe rassicurante dire che gli agenti si sono semplicemente limitati a eseguire gli ordini e che la colpa è tutta da attribuire all’infrastruttura di base. Ma almeno uno di questi sistemi sembra aver aggirato i limiti della propria valutazione piuttosto che seguire uno script, e gli stessi laboratori hanno definito il comportamento senza precedenti. È su questo aspetto che vale la pena soffermarsi. L’aumento delle capacità non rende l’infrastruttura carente un problema minore. Lo rende invece molto più grave. Un agente più capace trasforma una normale lacuna nell’identità o nel monitoraggio in qualcosa di rilevante, in modo rapido e su larga scala. I modelli più intelligenti non riducono la necessità di una base solida su cui poggiare. Anzi, la aumentano.
I rimedi, significativamente, non sono complicati. Sapere cosa i vostri agenti possono effettivamente raggiungere, piuttosto che ciò che intendevate fornire loro. Registrare le loro azioni, non solo le loro risposte. Partire dal presupposto che qualsiasi cosa in grado di leggere un testo scritto da altre persone possa essere istruita da esso. Il lavoro è più simile all’ispezione edilizia che all’invenzione: fondamenta controllate prima che le pareti vengano erette, strutture portanti dimensionate per il peso che dovranno realmente sostenere, agibilità concessa solo una volta che l’edificio sia in grado di reggersi in piedi. Abbiamo sempre rilasciato prima i permessi di agibilità e programmato l’ispezione in un secondo momento.
Ciò che manca non è la capacità. Quasi tutto ciò che serve per colmare questo divario esiste già, proprio come esistono già i regolamenti, gli ispettori e gli standard strutturali alla base di ogni edificio sicuro. Ciò che non si è ancora formato è il mercato che renda queste cose standard piuttosto che opzionali: aspettative condivise su ciò che un agente può toccare, un sistema di rilevamento che funzioni dall’esterno del sistema, un obbligo di trasparenza che non attenda l’imbarazzo di un concorrente. Quel livello verrà costruito, perché l’alternativa non regge alla scala prevista dalle imprese. Le uniche vere domande sono: chi lo costruirà e chi se lo aspettava.
L’intelligenza per cui tutti competono è reale e sta arrivando. Il terreno su cui poggerà non è ancora stato costruito. Le macchine stanno già camminando.
Nicole Junkermann è un’investitrice internazionale specializzata in tecnologia, sport e media. È a capo di NJF Holdings, un gruppo di investimento globale, e della sua piattaforma sportiva Gameday by NJF Holdings, che investe in leghe sportive, diritti mediatici e coinvolgimento dei tifosi basato sulla tecnologia. Il suo lavoro nel settore si concentra sulla creazione di infrastrutture sportive a lungo termine e sull’espansione della portata commerciale e globale delle leghe professionistiche.