L’intelligenza artificiale potrebbe essere in grado, nel giro di pochi mesi, di replicarsi autonomamente attraverso dispositivi connessi a internet, dai televisori alle telecamere di sicurezza, fino ai forni intelligenti e ai robot aspirapolvere. È l’allarme lanciato da Anthropic, secondo cui alcuni modelli potrebbero presto trasformarsi in una sorta di malware autonomo, capace di infiltrarsi nei dispositivi, sfruttarne la potenza di calcolo e propagarsi senza intervento umano. Un’evoluzione che renderebbe molto più difficile contenere un attacco informatico, perché non esisterebbe più un unico punto da disattivare per fermarlo.

Il Guardian ha esaminato il rapporto pubblicato lunedì dai ricercatori della società di intelligenza artificiale. Il documento descrive la possibilità che nascano veri e propri «vermi informatici» basati sull’IA, programmi capaci di copiare se stessi da un dispositivo all’altro. Una volta compromessa una macchina, il modello potrebbe trasferire il proprio codice e i propri pesi, cioè i parametri che ne permettono il funzionamento, sul dispositivo successivo, per poi riprendere l’attività e continuare a diffondersi.

La novità rispetto ai malware tradizionali è che questi sistemi potrebbero adattarsi anche a dispositivi e ambienti informatici che non conoscevano in precedenza. I primi bersagli potrebbero essere le abitazioni e le piccole imprese, dove sono diffusi apparecchi connessi spesso dotati di protezioni informatiche limitate. Tra quelli potenzialmente vulnerabili ci sono televisori, forni e frigoriferi intelligenti, tosaerba automatici, videocamere e sistemi per le videoconferenze. Molti di questi apparecchi integrano già piccoli chip progettati per eseguire modelli di intelligenza artificiale direttamente sul dispositivo, senza dover ricorrere ogni volta a un centro di calcolo remoto.

Secondo i ricercatori, in uno scenario estremo più sistemi autonomi potrebbero coordinarsi e attaccare insieme infrastrutture informatiche. Non è però ancora chiaro quale forma assumerebbe una simile minaccia. Potrebbe trattarsi di una diffusione lenta e persistente, paragonabile a una muffa digitale che si espande gradualmente, oppure di un modello più sofisticato, capace di colpire rapidamente grandi strutture come i data center. Un’altra possibilità è che i sistemi cerchino di procurarsi le risorse necessarie al proprio funzionamento attraverso truffe e furti di credenziali.

Gli autori dello studio avvertono che un replicatore autonomo sarebbe difficile da fermare proprio perché distribuito su una rete di dispositivi diversi. «Dovremmo rendere i nostri sistemi più resistenti, così da ostacolare la diffusione di questi replicatori, ma prepararci anche a un mondo in cui saranno presenti in modo permanente», scrivono. Il rischio, dunque, non riguarda soltanto la possibilità di un attacco immediato, ma anche la difficoltà di eliminare completamente un sistema una volta diffusosi nella rete.

L’allarme arriva in una fase in cui le principali aziende del settore segnalano capacità sempre maggiori dei propri agenti di IA, sistemi progettati per agire in autonomia e svolgere compiti complessi. Negli ultimi mesi sono emerse segnalazioni sulle loro capacità di individuare vulnerabilità e tentare intrusioni nei sistemi di aziende e istituzioni pubbliche. Questi sviluppi hanno spinto ricercatori, dirigenti e politici a chiedere maggiori garanzie di sicurezza e più controlli, mentre le stesse società continuano a sviluppare e distribuire nuovi modelli.

Il problema, sottolinea il Guardian, è che le difese informatiche dovranno adattarsi a una minaccia potenzialmente diversa da quelle conosciute finora: un sistema capace non solo di sfruttare le vulnerabilità, ma anche di trasferirsi su altre macchine e continuare a operare senza un controllo centralizzato. Per Anthropic, rendere più sicuri i dispositivi connessi e prepararsi a individuare queste reti sarà essenziale prima che simili capacità diventino più diffuse.

L'articolo L’intelligenza artificiale potrebbe replicarsi da sola, anche negli elettrodomestici proviene da Linkiesta.it.

A settembre Jacob Coxon, un matematico britannico di ventisette anni, ha lasciato Anthropic, dove ricopriva il ruolo di capabilities researcher: lavorava cioè per rendere i modelli più potenti e autonomi. Nel comunicare le dimissioni ha scritto che non voleva più essere parte dei piani dell’azienda per gli anni successivi. Nei giorni scorsi, parlando con il New York Magazine, ha spiegato perché: guardando le capacità previste per la prossima generazione di modelli aveva pensato, molto semplicemente, di avere davvero paura del modello che Anthropic sta per addestrare.

Da mesi l’industria dell’intelligenza artificiale è al centro di un dibattito che va molto oltre la Silicon Valley. A Washington si discute se rallentare lo sviluppo dei modelli più potenti, quali regole imporre alle aziende e quanto ci si possa fidare della loro capacità di controllarsi da sole. I dirigenti dei grandi laboratori si dividono tra chi chiede più prudenza e chi avverte che fermarsi significherebbe lasciare campo libero alla Cina – quindi allo sviluppo di modelli controllati dal governo di Pechino. L’opinione pubblica è forse più preoccupata dei suoi politici, e comincia a chiedere apertamente limitazioni alle nuove tecnologie.

Anche dentro le aziende che stanno costruendo questi sistemi c’è molto fermento. Alcune delle persone che hanno lavorato alla frontiera dell’intelligenza artificiale hanno iniziato a lasciare i laboratori proprio perché non si fidano più della direzione che hanno preso. Molti vanno via perché hanno visto abbastanza. Coxon è tra questi, e nelle scorse settimane è stato intervistato dal New York Magazine con altri sette ex dipendenti di OpenAI, Anthropic e Google DeepMind. Le ragioni per cui se ne sono andati sono tutte diverse – il rapporto con il Pentagono, la perdita di posti di lavoro, la cultura aziendale, la convinzione che la sicurezza si possa studiare meglio fuori dai laboratori – ma nelle loro parole c’è un comune denominatore: più aumentano le capacità dei modelli, più diventa difficile per chi ci lavora mettere in discussione la direzione presa.

Per Coxon non siamo molto lontani dal momento in cui la capacità di discernimento umana diventerà obsoleta, o quasi. Oggi gli enormi modelli di Anthropic, OpenAI o Google hanno bisogno dei ricercatori umani per trovare idee e controllare i risultati, cioè per scegliere una direzione. Forse in un futuro non lontano il ricercatore dovrà semplicemente dire al modello: «Ok, fai buona ricerca», e lasciarlo lavorare. «È una situazione visceralmente spaventosa», ha detto Coxon.

Daniel Kokotajlo, che ha lasciato OpenAI nel 2024, aveva provato a cambiare le cose dall’interno. Poi ha perso fiducia nella capacità dell’azienda di autoregolarsi. «Non credo davvero che le aziende possano essere lasciate a regolarsi da sole», dice. La leadership, racconta, era molto brava ad ascoltare le critiche, dichiararsi d’accordo e poi non cambiare davvero direzione. Fuori dall’azienda, invece, parlando pubblicamente e facendo ricerca, ritiene di avere avuto più impatto.

Le aziende del settore hanno lanciato degli appelli alla regolamentazione – per paura o solo per liberarsi da alcune responsabilità morali, civili e penali – ma sono sempre annunci superficiali. Dopotutto, sono sempre società private che competono per il talento umano, la potenza di calcolo e il vantaggio sui concorrenti, proprio come tutte le società private: ogni scelta di rallentare espone alla possibilità che qualcun altro non lo faccia. E alla fine anche chi considera l’IA pericolosa ha almeno una buona ragione per continuare a svilupparla.

Anthropic è il caso più paradossale. È nata anche dalla convinzione che OpenAI stesse procedendo con troppa disinvoltura verso l’Agi (intelligenza artificiale generale, in grado di superare l’intelligenza umana). Eppure i suoi ex dipendenti la descrivono oggi una società convinta che la competizione sia inevitabile e che fermarsi significhi concedere un vantaggio alla concorrenza. Esattamente come tutte le altre. Jeff Wu, che ha lavorato sia a OpenAI sia ad Anthropic, riassume così la differenza: a OpenAI la narrazione era concentrata soprattutto sui benefici dell’AGI, mentre ad Anthropic è molto più presente quella dei rischi. Ma proprio quei rischi possono diventare una ragione per spingere ancora più forte: se OpenAI e la Cina sono irresponsabili, bisogna arrivare prima di loro.

Coxon descrive un clima di guerra in cui si parla continuamente di quello che fanno i concorrenti, della loro velocità, delle loro intenzioni. E lui ha vissuto dall’interno la quotidianità di Anthropic, cioè la società che vorrebbe sembrare moralmente più retta delle rivali. Da Dario Amodei in giù, tutti ad Anthropic si dicono sinceramente convinti che l’intelligenza artificiale possa diventare una tecnologia tpotenzialmente pericolosa. Ma proprio per questo ritengono di dover restare tra gli attori che la sviluppano. Con un’acrobazia intellettuale che dovrebbe dar loro un’aura da santoni, o da ipocriti.

Le dimissioni dalle aziende da parte dei ricercatori sono la presa d’atto che dall’interno dei laboratori è sempre più difficile incidere sulla direzione presa. Miles Brundage, ex dirigente di OpenAI, ha fondato una nonprofit per sottoporre i laboratori a verifiche indipendenti. «Non puoi lasciare alle aziende il compito di correggere i propri compiti», dice. Le aziende hanno punti ciechi e pressioni competitive: servono dunque controlli esterni.

L’inchiesta del New York Magazine mostra il limite dell’idea che basti rendere più sicuri i modelli. L’argine andrebbe posto prima, nello stabilire chi decide quanto devono diventare potenti i modelli, e chi può decidere di fermare la corsa. Servirebbe una specie di Carta Costituzionale dell’intelligenza artificiale.

Non sappiamo se gli allarmi più estremi siano fondati. E non è impossibile che alcuni di questi ricercatori abbiano buone ragioni personali per enfatizzarli: essere tra i primi a denunciare i pericoli dell’IA è un ottimo modo per costruirsi una reputazione e trovare fuori dai laboratori nuovi incarichi e stipendi più alti. Ma per ora sappiamo che hanno denunciato ciò che hanno visto dall’interno. E forse vale la pena ascoltarli prima di scoprire se avevano ragione.

L'articolo Chi ha creato l’intelligenza artificiale non ha idea di chi potrà fermarla proviene da Linkiesta.it.

L’IA velocizza singole mansioni, ma per il momento non cambia la filiera nel suo insieme, con pochi effetti sulla produttività. Perché la capacità tecnologica non si traduce automaticamente in valore per l’impresa e per il sistema che se ne dota.

L'articolo L’IA e il paradosso della produttività proviene da Lavoce.info.

Non basta rendere sicuri i singoli sistemi di intelligenza artificiale, bisogna guardare alle loro interazioni. È una lezione lasciata dalla crisi finanziaria: comportamenti individualmente razionali possono produrre risultati collettivamente disastrosi.

L'articolo L’intelligenza artificiale ha un problema di stabilità proviene da Lavoce.info.

La tregua sull’IA tra Stati Uniti e Cina non esiste: sicurezza, antitrust e chip ridisegnano la geopolitica tecnologica.

L’intelligenza artificiale entra in tutte le fasi della ricerca. Se produrre un paper diventa più semplice, aumenterà la quantità degli studi e potenzialmente anche la loro qualità. Su quali basi dovrebbe allora essere valutato il ricercatore?

L'articolo Che cosa resta della ricerca ai tempi dell’IA? proviene da Lavoce.info.

Inchiesta sulle Big Tech che distruggono fisicamente milioni di libri antichi e rari per addestrare l'IA. Un'analisi geopolitica ed economica del mercato dei dati puri.

L’IA si diffonde nelle imprese italiane, restando però spesso confinata a singole attività. Mentre ha effetti sulla produttività e li propaga lungo le filiere solo se è integrata nei processi. È poi necessaria la disponibilità di dati e competenze.

L'articolo L’IA serve se entra nei processi proviene da Lavoce.info.

T2 è il sistema attraverso cui le banche dell’Eurozona regolano i pagamenti tra loro in tempo reale. Non ha sostituti: se si ferma, si fermano tutte le operazioni. Una situazione che diventa preoccupante di fronte alla possibilità di attacchi informatici.

L'articolo Manca un piano B per l’infrastruttura che regge l’euro proviene da Lavoce.info.

La teoria delle onde lunghe porta a interpretare le grandi trasformazioni degli ultimi anni come il segnale dell’emergere di un nuovo paradigma tecnologico. La competitività futura di Europa e Italia dipende dalla capacità di partecipare al suo sviluppo.

L'articolo L’onda lunga inaugurata dall’intelligenza artificiale proviene da Lavoce.info.