Quando acquisti tramite i link sul nostro sito potremmo guadagnare una commissione di affiliazione, senza alcun costo aggiuntivo per l’utente.
Antrhopic ha presentato quello che potrebbe essere uno dei principali pericoli dell’AI, ovvero la capacità dell’intelligenza artificiale di sviluppare sé stessa
No, non siamo in un film di fantascienza; l’intelligenza artificiale potrebbe avvicinarsi a una fase in cui sarà in grado di contribuire direttamente alla realizzazione di sistemi più evoluti, accelerando così il proprio processo di sviluppo. A lanciare un segnale d’allarme è Anthropic, che nel documento S-1/A aggiornato e presentato il 2 novembre 2026 alla Securities and Exchange Commission (SEC), in preparazione alla possibile quotazione in Borsa, ha evidenziato uno dei pericoli dell’AI, un rischio tecnologico destinato a ricevere sempre maggiore attenzione. Tra le informazioni inserite nel documento, infatti, compare un riferimento al Recursive Self-Improvement (RSI), un processo attraverso il quale un’intelligenza artificiale può partecipare alla progettazione di una versione successiva e più avanzata di sé stessa.
All’interno dei laboratori di Anthropic, Claude viene già impiegato per svolgere diverse attività legate alla ricerca, tra cui la scrittura di codice, l’interpretazione dei risultati degli esperimenti, la preparazione dei dati necessari all’addestramento e la verifica delle prestazioni dei modelli. In questo modo, gli strumenti sviluppati dall’azienda contribuiscono concretamente alla realizzazione delle generazioni successive
Quali sono i pericoli dell’AI in questo caso? Di cosa si preoccupa Anthropic?
La preoccupazione riguarda soprattutto la possibilità che questo meccanismo diventi progressivamente più veloce, fino a rendere difficile una verifica umana adeguata. La stessa Anthropic riconosce di non aver individuato sempre con sufficiente anticipo alcuni importanti incrementi nella rapidità con cui i propri sistemi vengono sviluppati. L’azienda precisa comunque che nessuno dei modelli attualmente disponibili ha raggiunto il livello necessario per parlare di RSI.
Inoltre, utilizzare l’AI per rendere più efficiente la ricerca non significa automaticamente disporre di una tecnologia capace di costruire autonomamente i propri successori Proprio per questo, Anthropic sta considerando nuove precauzioni, con l’obiettivo di mantenere un controllo umano concreto durante la realizzazione dei modelli più avanzati. Le potenzialità di questa evoluzione sono considerevoli, ma altrettanto importanti sono le incognite.
Lascia un commento