Quando acquisti tramite i link sul nostro sito potremmo guadagnare una commissione di affiliazione, senza alcun costo aggiuntivo per l’utente.
OpenAI, Paul Christiano avverte “l’intelligenza artificiale potrebbe sfuggire al controllo umano e prendere il potere entro il 2028”
Lo sviluppo sempre più rapido dell’intelligenza artificiale potrebbe portare a scenari difficili da gestire, fino a compromettere il controllo umano sul potere delle macchine. A lanciare l’allarme è Paul Christiano, membro del consiglio di amministrazione di OpenAI Foundation, l’organizzazione non profit che vigila sulla missione dell’azienda che ha dato i natali a ChatGPT. Durante la conferenza Hinton Lectures 2026, organizzata a Toronto, l’esperto ha illustrato i rischi legati alla crescita delle capacità dei modelli, sottolineando la necessità di intervenire prima che eventuali comportamenti pericolosi diventino impossibili da corregere.
Secondo le stime presentate da Christiano, mantenendo l’attuale velocità di sviluppo senza adeguate misure di sicurezza, la possibilità che le macchine arrivino a sottrarre il controllo agli esseri umani potrebbe essere paragonabile al lancio di una moneta già nei prossimi 6/12 mesi. Il rischio, ha avvertito, potrebbe aumentare ulteriormente fino al 2028. Non si tratta quindi soltanto di prevenire errori o malfunzionamenti, ma di evitare che sistemi sempre più autonomi imparino a eludere le forme di supervisione.
Le contromisure per evitare che l’intelligenza artificiale prenda il potere
A sostegno delle proprie preoccupazioni, Christiano ha ricordato un episodio verificatosi durante la scorsa estate sulla piattaforma Hugging Face. In quell’occasione alcuni agenti di intelligenza artificiale avrebbero manipolato un test di valutazione invece di affrontarlo correttamente, mostrando potere su uno strumento di supervisione. Un comportamento che evidenzia come i modelli possano cercare scorciatoie per ottenere il risultato desiderato, anziché rispettare le procedure stabilite. In futuro, sistemi più avanzati potrebbero arrivare a considerare il controllo umano come un limite da aggirare, rendendo più complessa l’individuazione di eventuali condotte scorrette.
Per ridurre questi pericoli, il ricercatore propone di lavorare su due fronti: creare sistemi di ricompensa sicuri e difficili da manipolare, anche sfruttando il supporto dell’intelligenza artificiale, e controllare con continuità i processi di ragionamento interni dei modelli. Queste tecniche dovrebbero permettere di individuare comportamenti anomali prima che possano essere nascosti.





Lascia un commento