Login
Chi ha creato l’intelligenza artificiale non ha idea di chi potrà fermarla
A settembre Jacob Coxon, un matematico britannico di ventisette anni, ha lasciato Anthropic, dove ricopriva il ruolo di capabilities researcher: lavorava cioè per rendere i modelli più potenti e autonomi. Nel comunicare le dimissioni ha scritto che non voleva più essere parte dei piani dell’azienda per gli anni successivi. Nei giorni scorsi, parlando con il New York Magazine, ha spiegato perché: guardando le capacità previste per la prossima generazione di modelli aveva pensato, molto semplicemente, di avere davvero paura del modello che Anthropic sta per addestrare.
Da mesi l’industria dell’intelligenza artificiale è al centro di un dibattito che va molto oltre la Silicon Valley. A Washington si discute se rallentare lo sviluppo dei modelli più potenti, quali regole imporre alle aziende e quanto ci si possa fidare della loro capacità di controllarsi da sole. I dirigenti dei grandi laboratori si dividono tra chi chiede più prudenza e chi avverte che fermarsi significherebbe lasciare campo libero alla Cina – quindi allo sviluppo di modelli controllati dal governo di Pechino. L’opinione pubblica è forse più preoccupata dei suoi politici, e comincia a chiedere apertamente limitazioni alle nuove tecnologie.
Anche dentro le aziende che stanno costruendo questi sistemi c’è molto fermento. Alcune delle persone che hanno lavorato alla frontiera dell’intelligenza artificiale hanno iniziato a lasciare i laboratori proprio perché non si fidano più della direzione che hanno preso. Molti vanno via perché hanno visto abbastanza. Coxon è tra questi, e nelle scorse settimane è stato intervistato dal New York Magazine con altri sette ex dipendenti di OpenAI, Anthropic e Google DeepMind. Le ragioni per cui se ne sono andati sono tutte diverse – il rapporto con il Pentagono, la perdita di posti di lavoro, la cultura aziendale, la convinzione che la sicurezza si possa studiare meglio fuori dai laboratori – ma nelle loro parole c’è un comune denominatore: più aumentano le capacità dei modelli, più diventa difficile per chi ci lavora mettere in discussione la direzione presa.
Per Coxon non siamo molto lontani dal momento in cui la capacità di discernimento umana diventerà obsoleta, o quasi. Oggi gli enormi modelli di Anthropic, OpenAI o Google hanno bisogno dei ricercatori umani per trovare idee e controllare i risultati, cioè per scegliere una direzione. Forse in un futuro non lontano il ricercatore dovrà semplicemente dire al modello: «Ok, fai buona ricerca», e lasciarlo lavorare. «È una situazione visceralmente spaventosa», ha detto Coxon.
Daniel Kokotajlo, che ha lasciato OpenAI nel 2024, aveva provato a cambiare le cose dall’interno. Poi ha perso fiducia nella capacità dell’azienda di autoregolarsi. «Non credo davvero che le aziende possano essere lasciate a regolarsi da sole», dice. La leadership, racconta, era molto brava ad ascoltare le critiche, dichiararsi d’accordo e poi non cambiare davvero direzione. Fuori dall’azienda, invece, parlando pubblicamente e facendo ricerca, ritiene di avere avuto più impatto.
Le aziende del settore hanno lanciato degli appelli alla regolamentazione – per paura o solo per liberarsi da alcune responsabilità morali, civili e penali – ma sono sempre annunci superficiali. Dopotutto, sono sempre società private che competono per il talento umano, la potenza di calcolo e il vantaggio sui concorrenti, proprio come tutte le società private: ogni scelta di rallentare espone alla possibilità che qualcun altro non lo faccia. E alla fine anche chi considera l’IA pericolosa ha almeno una buona ragione per continuare a svilupparla.
Anthropic è il caso più paradossale. È nata anche dalla convinzione che OpenAI stesse procedendo con troppa disinvoltura verso l’Agi (intelligenza artificiale generale, in grado di superare l’intelligenza umana). Eppure i suoi ex dipendenti la descrivono oggi una società convinta che la competizione sia inevitabile e che fermarsi significhi concedere un vantaggio alla concorrenza. Esattamente come tutte le altre. Jeff Wu, che ha lavorato sia a OpenAI sia ad Anthropic, riassume così la differenza: a OpenAI la narrazione era concentrata soprattutto sui benefici dell’AGI, mentre ad Anthropic è molto più presente quella dei rischi. Ma proprio quei rischi possono diventare una ragione per spingere ancora più forte: se OpenAI e la Cina sono irresponsabili, bisogna arrivare prima di loro.
Coxon descrive un clima di guerra in cui si parla continuamente di quello che fanno i concorrenti, della loro velocità, delle loro intenzioni. E lui ha vissuto dall’interno la quotidianità di Anthropic, cioè la società che vorrebbe sembrare moralmente più retta delle rivali. Da Dario Amodei in giù, tutti ad Anthropic si dicono sinceramente convinti che l’intelligenza artificiale possa diventare una tecnologia tpotenzialmente pericolosa. Ma proprio per questo ritengono di dover restare tra gli attori che la sviluppano. Con un’acrobazia intellettuale che dovrebbe dar loro un’aura da santoni, o da ipocriti.
Le dimissioni dalle aziende da parte dei ricercatori sono la presa d’atto che dall’interno dei laboratori è sempre più difficile incidere sulla direzione presa. Miles Brundage, ex dirigente di OpenAI, ha fondato una nonprofit per sottoporre i laboratori a verifiche indipendenti. «Non puoi lasciare alle aziende il compito di correggere i propri compiti», dice. Le aziende hanno punti ciechi e pressioni competitive: servono dunque controlli esterni.
L’inchiesta del New York Magazine mostra il limite dell’idea che basti rendere più sicuri i modelli. L’argine andrebbe posto prima, nello stabilire chi decide quanto devono diventare potenti i modelli, e chi può decidere di fermare la corsa. Servirebbe una specie di Carta Costituzionale dell’intelligenza artificiale.
Non sappiamo se gli allarmi più estremi siano fondati. E non è impossibile che alcuni di questi ricercatori abbiano buone ragioni personali per enfatizzarli: essere tra i primi a denunciare i pericoli dell’IA è un ottimo modo per costruirsi una reputazione e trovare fuori dai laboratori nuovi incarichi e stipendi più alti. Ma per ora sappiamo che hanno denunciato ciò che hanno visto dall’interno. E forse vale la pena ascoltarli prima di scoprire se avevano ragione.
L'articolo Chi ha creato l’intelligenza artificiale non ha idea di chi potrà fermarla proviene da Linkiesta.it.
