Looking for a Shorter Overview?
AI Summary
Google DeepMind lancia un istituto per ampliare il dibattito sull’AGI
Mercoledì i ricercatori di Google e Google DeepMind hanno presentato il DeepMind Institute, una nuova iniziativa pensata per far progredire la discussione sull’intelligenza artificiale generale (AGI). Tra i direttori figurano Shane Legg, cofondatore di DeepMind, James Manyika, dirigente di Google, e Demis Hassabis, presidente di Google DeepMind. Legg ricoprirà il ruolo di managing editor.
L’obiettivo dell’istituto è portare alla luce punti di vista differenti tra Google, Google DeepMind e la più ampia comunità scientifica internazionale sull’AGI. Come si legge nell’annuncio, “non saranno sempre d’accordo e potrebbero cambiare idea man mano che, al confine più avanzato della ricerca, emergono nuovi dati e informazioni”.
La prima raccolta comprende quattro saggi che affrontano temi eterogenei: politiche economiche per gestire le possibili discontinuità create dall’AGI, come preservare forme di ragionamento leggibili dai modelli, principi per il benessere umano e un quadro di valutazione per i modelli d’avanguardia.
Trasparenza dei modelli e “profondità seriale opaca”
In uno dei saggi, i ricercatori di sicurezza di DeepMind Rohin Shah e Anca Dragan sostengono che il restringersi della trasparenza nei modelli di IA — la capacità di osservare e verificare passo per passo il ragionamento — non sia un destino segnato. Con l’arrivo di nuove architetture, i modelli più potenti diventano più difficili da monitorare; per questo, secondo gli autori, sviluppatori e regolatori dovrebbero affrontare di petto i compromessi di sicurezza.
Tra le proposte c’è la possibilità di limitare la cosiddetta “profondità seriale opaca”, cioè la quantità di calcolo sequenziale che un modello può svolgere senza produrre una traccia di ragionamento interpretabile dall’uomo. In alternativa, si potrebbe imporre che gli sviluppatori dimostrino come sistemi meno trasparenti restino comunque monitorabili in modo equivalente.
Un organismo di standard per le AI di frontiera
In un altro saggio, Demis Hassabis propone la creazione, a guida statunitense, di un organismo di standardizzazione per valutare i modelli di intelligenza artificiale più avanzati. Secondo il quadro delineato, gli sviluppatori invierebbero inizialmente i modelli a una valutazione volontaria fino a 30 giorni prima del rilascio. Una volta dimostrata l’efficacia del sistema di esame, il superamento dei test potrebbe diventare un requisito per distribuire modelli di frontiera negli Stati Uniti.
All’inizio questo organismo progetterebbe le prove in consultazione con le aziende di IA, per poi evolvere verso valutazioni indipendenti e non divulgate — i cosiddetti test “held-out” — così da evitare che i laboratori ottimizzino i modelli sulle prove note. Hassabis aggiunge che il framework potrebbe essere reso via via più rigoroso “qualora la gravità della situazione lo richiedesse”, fino a prevedere un rallentamento coordinato tra gli sviluppatori di AI di frontiera.
Dal dibattito astratto a misure concrete
Questa serie di saggi arriva in un momento in cui la discussione sulla sicurezza dell’industria dell’IA sta passando da dichiarazioni generiche di preoccupazione a proposte operative su trasparenza, verifica esterna e, se le tutele non tengono il passo, rallentamenti concordati. Il cambio di passo si è accelerato questa settimana, con diversi leader del settore che hanno appoggiato alcuni elementi dell’appello del CEO di Anthropic, Dario Amodei, a “scandire il ritmo” dello sviluppo delle AI di frontiera.
