Alfio Quarteroni: «Non dobbiamo fermare l’IA, ma governarla»

L’intelligenza artificiale sfuggirà al nostro controllo? Quali sono i rischi per la vita umana? «La corsa alla superintelligenza potrebbe mettere a rischio la sopravvivenza dell’umanità entro la fine del decennio». Dopo quest’avvertimento, lanciato da Jacob Coxon, e le confidenze di Sam Altman ai dipendenti di OpenAI sull’intenzione di valutare un rallentamento dei modelli più avanzati, in seguito alla scoperta che l’ultima versione del suo sistema è capace di individuare vulnerabilità informatiche sconosciute, e realizzare tecniche di attacco senza una guida umana continua, distinguere tra la ricerca che serve a far progredire l’umanità e quella che invece può nuocere diventa sempre più difficile.

«Sono segnali da prendere sul serio, ma anche da leggere nel contesto giusto». A dirlo è il professore lodigiano Alfio Quarteroni, matematico, docente universitario, accademico dei Lincei e vincitore della medaglia Gauss-Newton. «Di recente l’IA ha compiuto un passo che pochi mesi fa sarebbe sembrato fantascienza: la formalizzazione di una dimostrazione matematica che affronta uno dei sette Problemi del Millennio, le grandi questioni irrisolte per cui il Clay Mathematics Institute offre un milione di dollari a chi le risolve - spiega il professore -. Un sistema multi-agente ha prodotto una dimostrazione matematica secondo cui un fluido inizialmente regolare può sviluppare una singolarità in tempo finito sotto una forza esterna regolare: un contributo sostanziale al problema di esistenza e regolarità delle equazioni di Navier-Stokes, che governano il moto dei fluidi e che utilizziamo per prevedere il meteo o progettare un’ala d’aereo». Il prof invita tuttavia a non lasciarsi trascinare dagli allarmismi, i quali rischiano di oscurare quanto l’IA sta già facendo per noi: «In medicina, i sistemi di image diagnosis analizzano TAC e mammografie individuando tumori con notevole precisione. Nell’industria, l’anomaly detection e la manutenzione predittiva prevengono guasti prima che accadano. I modelli meteorologici basati su reti neurali migliorano la previsione degli eventi estremi. E ci sono l’analisi predittiva e prescrittiva per le decisioni aziendali, l’elaborazione del linguaggio, la personalizzazione dell’istruzione e gli strumenti che accelerano la scoperta di nuovi materiali. Sono conquiste concrete, che non possiamo minimizzare in nome di un allarmismo che talvolta nasconde anche interessi meno nobili: la battaglia per la leadership di un mercato che vale già miliardi di dollari».

Resta però il nodo più delicato: può davvero l’IA sterminarci? «La risposta onesta è che, per farlo, dovrebbe prima ottenere da noi qualcosa che oggi non ha: la delega ad agire nel mondo fisico - fa notare Quarteroni -. Un sistema che scrive testi, genera immagini o dimostra teoremi dietro lo schermo non possiede, di per sé, la capacità di manipolare virus in laboratorio o muovere eserciti di droni. Per farlo ha bisogno di mani umane, laboratori umani e decisioni umane che gli affidino quei compiti». Questo non significa abbassare la guardia sui rischi reali, cybersicurezza compresa. «L’episodio segnalato da OpenAI nei mesi scorsi (la scoperta che un suo modello possiede capacità offensive avanzate) va preso sul serio, ma anche ridimensionato: si tratta di una capacità individuata in fase di test, non di un attacco realmente sferrato - conclude il prof -. Il vero rischio non è quello di una macchina che si ribella. È quello di una macchina che esegue alla perfezione un obiettivo che le abbiamo assegnato male. La domanda giusta non è se l’IA ci sterminerà, ma se saremo abbastanza intelligenti da governare l’intelligenza che stiamo costruendo. Come per l’automobile abbiamo inventato semafori, guardrail e limiti di velocità, allo stesso modo dobbiamo costruire, e in fretta, un sistema di regole all’altezza della potenza che l’IA sta acquisendo, non per fermarla ma per guidarla».