Uno stress test per il settore finanziario. È quello che il G7 pensa di fare per verificare la pericolosità dell’intelligenza artificiale. A Bangkok, dove sono riuniti i ministri delle Finanze e i governatori delle banche centrali, è emersa la volontà di mettete a punto esercitazioni “teoriche” per capire fino a che punto possono stare tranquilli di fronte alle minacce rappresentate dagli agenti di AI di frontiera. L’obiettivo è studiare la risposta più efficace per difendersi.

A scriverlo è il Financial Times, secondo cui l’esercitazione potrebbe coinvolgere le banche. Come sottolinea il ministro delle Finanze olandese, “stiamo tutti fissando la stessa scatola nera. Vediamo i rischi, ma come affrontarli?”, si chiede Eelco Heinen. “Se pochi Paesi possiedono la tecnologia, ma il mondo interno può esserne vittima, la cooperazione internazionale è fondamentale. È proprio qui che risiede la preoccupazione”. L’idea arriva d’altronde in un momento topico. L’AI viene continuamente descritta come uno strumento rivoluzionario, ma a due facce. Quella negativa potrebbe comportare delle conseguenze ancora poco quantificabili, ma sicuramente drammatiche. Una di queste è che gli agenti di AI possano autonomamente impossessarsi di altri sistemi, sdoppiandosi ed infiltrandosi. Ad esempio, in una banca.

Lo afferma anche il Fondo Monetario Internazionale in un suo rapporto, in cui si legge che “gravi incidenti informatici potrebbero minare la fiducia del mercato e interrompere le infrastrutture e le operazioni critiche dei mercati finanziari”.

Se e quando i test partiranno, si potrà capire meglio a che livello sono le difese. Nel tempo si sono prese delle precauzioni e ci sono dei manuali di risposta già stilati. Ma il pericolo è cambiato, si presenta sotto forme diverse. Per cui bisogna vedere se il sistema architettato possa reggere all’urto. “La situazione può diventare davvero molto difficile”, ammette Caio Ferreia, vice presidente del reparto global markets analysis dell’Fmi. Non è solo una questione operativa. “La perdita di fiducia potrebbe di per sé rappresentare un evento sistemico”.

Resta da capire quando e come si svolgeranno le esercitazioni. Sicuramente il messaggio che invia il G7 è chiaro: con l’AI tutti devono fare i conti, perché nessuno ne è immune. C’è però un dettaglio, neanche troppo piccolo, sottolineato anche dal ministro dell’Economia italiano Giancarlo Giorgetti. I grandi assenti al tavolo di Bangkok erano gli americani. “Il punto di partenza, sinceramente va detto, è che qui non è venuto Scott Bessent“, dice riferendosi al segretario del Tesoro. Al suo posto c’era un sottosegretario. “Evidentemente questo mette in una luce diversa sia le riunioni del G20 sia del G7, sia in qualche modo l’Fmi. Una situazione di grande incertezza, instabilità geopolitica con conseguenze economiche e finanziarie evidenti, con gli Stati Uniti un po’ protagonisti di tutto, che qua sono presenti in tono minore”. In sintesi, conclude Giorgetti, ci troviamo in “un mondo in cerca di equilibrio in cui gli Usa giocano una partita d’isolamento”.

L’ultimo avvertimento di Anthropic potrebbe non piacere a Donald Trump. Tra pochi mesi, alcuni modelli di intelligenza artificiale della startup potrebbero autoreplicarsi su altri dispositivi IoT. L’azienda lo scrive nel suo ultimo post pubblicato sul proprio blog, spiegando le conseguenze di un worm, un programma che si replica altrove senza bisogno dell’intervento umano. “Un replicatore di questo tipo sarebbe difficile da fermare, poiché non esiste un punto di arresto centralizzato, sebbene il processo potrebbe essere lento. A differenza dei malware non basati sull’AI, potrebbe anche identificare autonomamente dispositivi sconosciuti”. Va da sé che la perdita di controllo comporterebbe conseguenze drammatiche.

Gli obiettivi a cui un worm potrebbe puntare sono svariati. Target principali sono soprattutto case e piccole aziende, dove le misure di protezione non sono così elevate. I worm possono infatti eludere i rilevamenti, aggregandosi per attaccare l’hardware dei computer. Questi malware particolari possono infiltrarsi all’interno di qualsiasi dispositivo connesso a Internet, compresi gli elettrodomestici meno sospetti, come frigoriferi e aspirapolveri. Anche le smart tv sono una preda ghiotta. Per Anthropic potrebbe essere già troppo tardi: “Dovremmo puntare a rafforzare i nostri sistemi per rendere difficile la diffusione di tali replicatori, ma anche a prepararci ad affrontare un mondo in cui essi rimarranno”.

La considerazione di Anthropic, come anticipato, potrebbe non essere grata alla Casa Bianca. Il governo americano sta cercando di allontanare l’aura negativa che circonda l’AI, arrivando persino a definirla “superintelligenza” pur di dargli un’accezione positiva. Qualsiasi sia il nome con cui la si chiama, però, la tecnologia ha un lato oscuro da dover gestire.

Dall’altra parte dell’Oceano Atlantico si ragiona in modo differente. L’Unione europea spinge per una regolamentazione rigorosa dell’AI, sebbene possa legiferare solamente per i modelli altrui non avendone sviluppati in casa. Ad ogni modo, Emmanuel Macron si mette alla guida di questa iniziativa. Il presidente francese ha convocato mercoledì un Consiglio di difesa per concentrarsi specificamente sulle implicazioni dell’AI. Seduti attorno al tavolo ci sono Sébastien Lecornu, la ministra delle Forze armate Catherine Vautrin e il capo di Stato maggiore della Difesa, generale Fabien Mandon. Una conferma di come l’intelligenza artificiale deve essere affrontata politicamente e a livello securitario in modo uguale.