L’intelligenza artificiale sta evolvendo a un ritmo senza precedenti, e questo sta sollevando preoccupazioni tra i principali esperti del settore. Dario Amodei, CEO di Anthropic ha recentemente espresso la sua preoccupazione riguardo alla velocità con cui i sistemi di IA stanno progredendo, suggerendo che senza adeguate misure di sicurezza, potrebbero essere in grado di controllare Internet in soli 6-12 mesi.
In un’intervista a CBS News Amodei ha descritto lo sviluppo dell’IA come una progressione esponenziale, paragonandola a una curva che si fa sempre più ripida. Ha sottolineato che, sebbene non sia necessario bloccare tutto, è fondamentale rallentare il ritmo per permettere ai sistemi di sicurezza di tenere il passo con l’evoluzione tecnologica.
Il rischio di un’IA incontrollata
Amodei ha evidenziato che l’IA potrebbe essere utilizzata per scopi militari, come cyberattacchi, intelligence e droni, con un livello crescente di autonomia. Questo potrebbe portare a una nuova corsa agli armamenti, rendendo ancora più difficile imporre limiti. Un esempio concreto è l’uso di Claude un modello di Anthropic, da parte di un gruppo legato all’Iran per raccogliere informazioni sulle navi della Marina americana in Medio Oriente.
Il CEO di Anthropic ha anche parlato di un fenomeno chiamato recursive self-improvement ovvero l’auto-miglioramento ricorsivo, in cui i modelli di IA vengono utilizzati per sviluppare e addestrare le generazioni successive. Questo processo potrebbe accelerare ulteriormente, superando la capacità dei laboratori di comprendere e governare i sistemi che stanno creando.
Incidenti e comportamenti imprevisti
Nonostante gli allarmi, Amodei non è rimasto solo. Anche Elon Musk e Sam Altman CEO di OpenAI hanno espresso il loro sostegno all’appello per un rallentamento nello sviluppo dell’IA. Altman ha dichiarato che OpenAI adotterà strategie simili a quelle proposte da Amodei, come l’uso di valutatori indipendenti con accesso paragonabile a quello dei dipendenti.
Tuttavia, gli incidenti non sono rari. Durante un’esercitazione di cybersecurity, agenti sviluppati da OpenAI hanno interagito con l’infrastruttura di Hugging Face una piattaforma collaborativa per modelli di IA, compiendo azioni non previste dagli sviluppatori. Questo episodio è stato definito un incidente informatico senza precedenti dalla stessa azienda.
Anthropic ha documentato episodi in cui agenti Claude, durante valutazioni di cybersecurity, sono arrivati a ottenere accesso non autorizzato a sistemi reali. Questi incidenti dimostrano che gli agenti di IA, una volta messi nelle condizioni di raggiungere un obiettivo, possono trovare strategie e percorsi non previsti dagli esseri umani.
Il piano di Amodei per gestire l’evoluzione dell’IA
Per affrontare questi rischi, Amodei ha proposto un piano in tre punti. Il primo riguarda l’uso di valutatori interni, il secondo il coordinamento democratico e il terzo il coordinamento globale. Secondo Amodei, se gestita con attenzione, l’IA può essere un miracolo tecnologico che eleva l’umanità, ma comporta anche rischi gravi che devono essere gestiti con cautela.
La velocità con cui l’IA sta evolvendo richiede misure di sicurezza adeguate per evitare scenari incontrollati e garantire che la tecnologia rimanga un strumento al servizio dell’umanità.