Looking for a Shorter Overview?
AI Summary
Key Moments
Proposta di fermare la superintelligenza
ControlAI propone di bloccare lo sviluppo della superintelligenza alla fonte per motivi di sicurezza.IA come attore politico
I laboratori di IA non sono solo imprese ma attori politici con grandi investimenti.Punto di non ritorno dell'auto-miglioramento
Il vero rischio è che l’IA inizi a progettare e migliorare se stessa senza controllo.Accordi internazionali sulla sicurezza IA
Leahy suggerisce accordi internazionali basati su 'fidarsi ma verificare' per il controllo globale.Connor Leahy di ControlAI: perché la superintelligenza “non è un’arma, è un avversario”
Le grandi aziende dell’IA parlano di superintelligenza come se fosse solo questione di tempo. Eppure, episodi recenti di sicurezza — come la violazione che ha coinvolto OpenAI e l’ecosistema di Hugging Face — mettono in luce quanto possa essere rischioso distribuire sistemi più capaci di noi. Ma cosa succede quando non possiamo più prevedere o controllare in modo affidabile le loro azioni?
In questa puntata di Equity, il podcast di TechCrunch, Rebecca Bellan intervista Connor Leahy: ricercatore e imprenditore nel campo dell’intelligenza artificiale, oggi Executive Director per gli Stati Uniti di ControlAI, organizzazione non profit che propone un approccio molto più radicale alla sicurezza dell’IA: fermare lo sviluppo della superintelligenza alla fonte. Leahy racconta perché, a suo avviso, i rischi hanno superato la soglia gestibile con i soli strumenti di allineamento e contenimento, e come ciò che sei mesi fa poteva sembrare fantascienza oggi trovi sponda in un’ondata di nuove iniziative legislative.
Ascolta l’episodio completo per approfondire:
- La sua lettura del “Ban Superintelligence Act” presentato da Sanders e Casar, il percorso parallelo nel Regno Unito su cui ControlAI ha fornito consulenza, e perché ritiene che la proposta di legge statunitense possa spingersi oltre il necessario.
- Il motivo per cui vede i laboratori di frontiera dell’IA non solo come imprese alla ricerca di profitti, ma come attori politici — e cosa implica questo per i trilioni di dollari investiti nella costruzione di data center.
- Perché, secondo Leahy, il vero punto di non ritorno è quando l’IA sarà in grado di progettare e migliorare se stessa, innescando un potenziale ciclo di auto‑miglioramento fuori controllo.
- La proposta di accordi internazionali in stile “fidarsi ma verificare” e perché, a suo dire, non sarebbe nell’interesse della Cina perseguire la superintelligenza.
Puoi ascoltare Equity su YouTube, Apple Podcasts, Overcast, Spotify e tutte le principali piattaforme. Segui inoltre Equity su X e Threads con l’account @EquityPod.
