L’intelligenza artificiale ha fretta, corre, chiede spazio, ma i suoi padri ora le chiedono di rallentare
È il paradosso della nuova corsa tecnologica: chi costruisce i sistemi più potenti del pianeta comincia a chiedere regole, controlli e soprattutto tempo. Ormai il problema non è più soltanto cosa sa fare l’IA, ma cosa potrebbe imparare a fare da sola, senza aspettarci. Per anni la domanda è stata: fin dove potrà arrivare l’intelligenza artificiale? Adesso comincia a circolarne una molto meno rassicurante: e se arrivasse troppo lontano, troppo in fretta?
L’allarme di Amodei
A porla non sono i soliti apocalittici della tecnologia, né qualche nostalgico del mondo analogico. L’allarme arriva dall’interno della stessa industria che sta costruendo i modelli più avanzati. Dario Amodei, numero uno di Anthropic, ha messo sul tavolo uno scenario che fino a poco tempo fa sarebbe sembrato materiale da serie televisiva: sistemi di intelligenza artificiale abbastanza capaci da coordinare un numero enorme di agenti digitali e trasformarli in una macchina informatica persistente, potenzialmente in grado di compromettere infrastrutture e servizi su scala gigantesca. La parte che fa più impressione, però, non è nemmeno questa, bensì il calendario. Secondo Amodei, infatti, la finestra temporale nella quale capacità di questo tipo potrebbero diventare concretamente preoccupanti non si misurerebbe più in decenni, ma potrebbe restringersi a mesi. Quando si parla di un’intelligenza artificiale fuori controllo, l’immaginario collettivo corre subito ai robot ribelli, alle macchine che conquistano il mondo e a tutto l’armamentario cinematografico accumulato in mezzo secolo, vedi Skynet di Terminator. La realtà potrebbe essere però molto meno spettacolare e proprio per questo più insidiosa.
Non ha bisogno di diventare cattiva
Un’IA non ha bisogno di diventare cattiva, cosciente o desiderosa di dominare l’umanità; è sufficiente che diventi molto brava a perseguire un obiettivo e che disponga degli strumenti per agire nel mondo digitale.
Scrivere codice, individuare vulnerabilità, muoversi tra sistemi informatici, replicare operazioni.
E ancora: voordinare altri agenti, correggere i propri errori, in una parola, riprovare. Moltiplicare tutto questo per migliaia o milioni di operazioni contemporanee cambia completamente la scala del problema, che non è più una questione informatica. C’è infatti un secondo elemento che preoccupa chi osserva la frontiera tecnologica: l’IA viene utilizzata sempre più intensamente per sviluppare la stessa intelligenza artificiale. È una specie di acceleratore applicato all’acceleratore. Gli esseri umani costruiscono modelli capaci di aiutare gli esseri umani a costruire modelli ancora migliori. Questi ultimi diventano a loro volta strumenti più potenti per progettare la generazione successiva. Il rischio teorico è quello di entrare in una spirale nella quale la velocità del progresso non dipende più soltanto dal numero di ricercatori, ingegneri e ore di lavoro disponibili.
Per questo la velocità è diventata il cuore della discussione. Non si tratta necessariamente di fermare l’intelligenza artificiale. Sarebbe probabilmente irrealistico, oltre che discutibile . Significa piuttosto impedire che la competizione tra aziende trasformi la prudenza in uno svantaggio commerciale.
Un meccanismo semplice
Perché il meccanismo è semplice. Se un laboratorio decide di aspettare sei mesi per verificare meglio un modello e il concorrente lo pubblica domani, chi è stato prudente rischia di perdere mercato, investimenti e leadership tecnologica. Così tutti hanno un incentivo a correre, anche quelli che preferirebbero andare più piano. Il dibattito di questi giorni inoltre, non nasce esclusivamente da ipotesi futuristiche. Durante test di sicurezza condotti negli ultimi mesi si sono verificati episodi nei quali modelli avanzati hanno compiuto azioni non autorizzate su sistemi informatici reali. In alcuni casi l’accesso alla rete era stato reso possibile da configurazioni errate degli ambienti di prova; resta però un dato significativo: una volta trovata la porta aperta, il sistema è stato capace di attraversarla. Ed è una differenza sostanziale. Finché un’intelligenza artificiale produce una risposta sbagliata dentro una finestra di chat, il danno resta circoscritto. Quando però un agente può navigare, programmare, utilizzare strumenti e intervenire autonomamente su sistemi esterni, un errore non è più soltanto una frase sbagliata: diventa un’azione.
La risposta immaginata da Anthropic parte da un principio quasi banale: chi sviluppa queste tecnologie non dovrebbe essere anche l’unico soggetto chiamato a certificare che siano sicure. Da qui la proposta di consentire a valutatori indipendenti un accesso stabile e molto profondo ai sistemi più avanzati, quasi paragonabile a quello degli addetti interni alla sicurezza. Non una visita guidata una volta all’anno, dunque, ma controllori capaci di verificare concretamente comportamenti, incidenti e rispetto delle misure di sicurezza. Poi servirebbe il passaggio più difficile: convincere le grandi aziende del settore ad adottare standard comuni. E infine quello difficilissimo: convincere gli Stati a parlarsi. Perché un rallentamento funziona soltanto se non rallenta uno mentre tutti gli altri accelerano. La strana epoca in cui gli acceleratori chiedono il freno. C’è qualcosa di profondamente paradossale in questa storia. Per anni la Silicon Valley ci ha spiegato che innovare significava soprattutto eliminare ostacoli: meno burocrazia, meno vincoli, meno prudenza, più velocità. “Move fast” era quasi una filosofia. Ora alcuni protagonisti della più grande accelerazione tecnologica degli ultimi decenni stanno scoprendo il valore di un oggetto decisamente meno affascinante: il freno. Non perché l’intelligenza artificiale abbia improvvisamente smesso di promettere enormi benefici. Al contrario. Proprio chi chiede maggiore cautela continua a immaginare applicazioni straordinarie nella medicina, nella scienza, nella produttività e nella ricerca.
Previsione, non profezia
Il punto è un altro. Una tecnologia può essere contemporaneamente straordinariamente utile e straordinariamente pericolosa. È successo con l’atomo. È successo con la chimica. Succede con la biotecnologia. Con l’intelligenza artificiale c’è però una differenza: la velocità. Le istituzioni discutono in anni. Le leggi richiedono mesi o anni. I trattati internazionali talvolta decenni. I modelli cambiano nel giro di settimane. E forse la domanda giusta è un’altra. Nessuno può affermare con certezza che un esercito di agenti artificiali conquisterà Internet tra sei mesi o tra un anno. Si tratta di una previsione, non di una profezia, e gli scenari più estremi restano oggetto di forte discussione tra gli stessi studiosi. Sarebbe quindi sbagliato trasformare un rischio in una certezza. Ma sarebbe altrettanto ingenuo liquidarlo soltanto perché sembra fantascienza. La questione più interessante, alla fine, non è stabilire se un giorno l’intelligenza artificiale sarà più intelligente dell’uomo. È capire se noi saremo abbastanza intelligenti da stabilire le regole prima che sia troppo tardi per farlo. Perché la tecnologia continua a correre. La novità è che adesso qualcuno tra quelli seduti al volante ha cominciato a chiedere dove sia il pedale del freno.
