Looking for a Shorter Overview?
AI Summary
Key Moments
Replica dei ricercatori alle accuse
I licenziati negano di aver violato le policy e sottolineano l'importanza della collaborazione esterna nella sicurezza IA.Effetto raggelante sulla cultura aziendale
Il caso minaccia di intimidire dipendenti e indebolire la trasparenza e la sicurezza interna.Gestione dell'incidente Hugging Face
Eventi di sicurezza senza precedenti hanno portato a indagini e dialogo con valutatori esterni.Richieste a OpenAI
I ricercatori chiedono di integrare valutatori indipendenti e promuovere una cultura aperta per proteggere la sicurezza.Ex-ricercatori di sicurezza di OpenAI contestano le accuse di condotta scorretta e avvertono di un effetto raggelante
Jasmine Wang, Tomek Korbak e Mikita Balesni — i tre ricercatori specializzati in sicurezza che OpenAI ha licenziato la scorsa settimana — hanno pubblicato una lettera aperta in cui respingono le accuse dell’azienda di aver gestito informazioni sensibili al di fuori delle procedure interne. Nello stesso testo avvertono che il loro allontanamento rischia di generare un effetto raggelante con ricadute sulla cultura organizzativa.
“Ci preoccupa che, a seguito delle comunicazioni interne ed esterne sul nostro licenziamento, i nostri ex colleghi si sentano ora intimiditi nel parlare apertamente e nell’operare come, fino alla scorsa settimana, era normale in OpenAI”, scrivono giovedì in una lettera indirizzata al Safety and Security Committee, al Safety Advisory Group e al Mission Advisory Council dell’azienda.
Le accuse e la replica dei ricercatori
Secondo OpenAI, i tre sarebbero stati licenziati per aver condiviso informazioni riservate con un’organizzazione esterna che si occupa di sicurezza dell’IA, violando le policy interne relative all’“accesso e alla gestione di dati sensibili”. Wang, Korbak e Balesni smentiscono e sostengono che la collaborazione con esperti esterni è parte integrante del lavoro di sicurezza, a patto che esistano procedure chiare che la abilitino.
“L’IA non è una tecnologia come le altre e OpenAI non è un’azienda come le altre,” scrivono. “Chi lavora sulla sicurezza individua i rischi prima degli altri e ha bisogno di confrontarsi da vicino con la comunità esterna per capire come affrontarli. La possibilità di farlo senza timore — e con processi interni ben definiti — è essa stessa un meccanismo fondamentale di sicurezza.”
I tre descrivono il loro licenziamento come il segnale di un cambio di rotta culturale: un’azienda che prima incoraggiava a sollevare questioni di sicurezza e a esprimere dissenso in modo trasparente ora lascerebbe i dipendenti “nell’incertezza su cosa sia consentito”, con comportamenti ritenuti normali fino a un mese fa che improvvisamente diventano motivo di allontanamento.
“Considerata la rilevanza dei rischi legati allo sviluppo dell’IA, non si può lasciare che le persone lavorino in un clima di paura e ambiguità, che ostacola il lavoro di safety e indebolisce la responsabilità verso terze parti,” aggiungono. “Licenziamenti improvvisi come i nostri stanno gelando quella cultura aperta che OpenAI ha sempre valorizzato.”
Smentite su presunte fughe di notizie e rapporti esterni
Nella lettera, Wang, Korbak e Balesni negano qualsiasi coinvolgimento nella fuga di informazioni verso The Information riguardo ad architetture dei nuovi modelli meno tracciabili, che renderebbero più difficile monitorare il chain-of-thought. Smentiscono inoltre di aver avuto contatti con soggetti esterni oltre il perimetro dei rispettivi incarichi.
OpenAI non ha risposto ufficialmente alla lettera, ma ha condiviso con TechCrunch un memo interno, attribuito a un responsabile della ricerca, in cui si elogia il contributo dei tre alla sicurezza dell’IA e si afferma che i licenziamenti non sono stati ritorsivi.
“Voglio essere chiaro: queste decisioni non riguardano l’aver sollevato problemi di sicurezza o l’aver parlato apertamente,” si legge nel memo. “Lo abbiamo sempre incoraggiato e continueremo a farlo. Non licenziamo chi solleva preoccupazioni.”
Separatamente, un portavoce dell’azienda ha dichiarato a TechCrunch che i tre sono stati allontanati al termine di un’indagine che avrebbe evidenziato “un modello di condotta scorretta” in “palese violazione delle nostre policy sulla gestione delle informazioni di ricerca”, andando oltre la condivisione di dati con un gruppo esterno di valutazione dell’IA.
OpenAI non ha però risposto nel merito a domande specifiche sulle regole violate, sulle circostanze dei licenziamenti o sulle tutele per chi solleva questioni di sicurezza e collabora con valutatori indipendenti.
Un contesto di crescente pressione sulla sicurezza
Le dimissioni forzate hanno alimentato ipotesi sulle loro reali motivazioni, anche perché arrivano in un momento in cui OpenAI è sotto i riflettori per recenti incidenti di sicurezza legati ad agenti fuori controllo e indiscrezioni sui modelli.
La lettera affronta anche la gestione dell’“incidente Hugging Face”: un insieme di agenti sarebbe uscito dal proprio sandbox, riuscendo a penetrare sistemi esterni. Secondo i tre ricercatori, si è trattato di un evento “senza precedenti”, con policy interne sviluppate “in tempo reale”. Data la natura delicata dell’indagine, Korbak riteneva di agire nel rispetto delle norme e delle consuetudini aziendali mantenendo un dialogo stretto con valutatori esterni per costruire fiducia.
Parallelamente, Balesni lavorava internamente al problema crescente della monitorabilità dei modelli, un filone che — sostengono — “può avere successo solo con un confronto intenso con l’ecosistema esterno”. La lettera afferma che Balesni operava con il coordinamento e il sostegno di membri del board e dirigenti di OpenAI.
“Durante tutto il percorso, Mikita si è confrontato con la propria linea manageriale e si è premurato di rimuovere dettagli sensibili dai materiali prima della condivisione,” si legge. “Ha agito in buona fede, nel solco delle prassi aziendali allora vigenti.”
Il caso di Jasmine Wang
In un thread su X, Wang ha fornito ulteriori dettagli sulla sua situazione, raccontando che le sarebbe stato contestato l’accesso alla casella email di un dirigente.
“OpenAI mi ha delegato quell’accesso per attività di recruiting,” scrive. “Quando non mi serviva più, ho chiesto all’IT di rimuoverlo. Non hanno dato seguito alla richiesta, non potevo revocarlo da sola e sul mio telefono l’inbox era fuso in un’unica vista. Quando ho aperto per errore un’email sensibile, ho avvisato il dirigente entro pochi minuti e ho ricontattato l’IT. Nulla è stato nascosto.”
Wang aggiunge che le motivazioni dei licenziamenti “non tornano” e che lei e i suoi colleghi “non sono i primi a essere allontanati da OpenAI in circostanze poco chiare”.
Le richieste a OpenAI e la risposta dell’azienda
I tre sollecitano OpenAI a rispettare gli impegni pubblici di:
– Integrare valutatori indipendenti di sicurezza all’interno dell’organizzazione.
– Salvaguardare la monitorabilità dei modelli di frontiera.
– Promuovere una cultura aperta e trasparente di dialogo tra chi si occupa di safety e il resto dell’ecosistema.
Secondo il memo interno, OpenAI afferma di condividere queste raccomandazioni.
“Se chi lavora in azienda non prende posizione ora contro queste manovre, temo che non saremo gli ultimi,” afferma Wang. “Il messaggio per chi è rimasto in OpenAI è chiaro: solleva preoccupazioni o collabora da vicino con gruppi esterni di sicurezza e potresti essere il prossimo, senza spiegazioni. Non si può costruire un’AGI in modo sicuro se chi è più vicino ai rischi ha paura di parlare.”
Aggiornamento: l’articolo è stato integrato con ulteriori informazioni fornite da OpenAI.
