Looking for a Shorter Overview?
AI Summary
Key Moments
Dimissioni di Jacob Coxon
Jacob Coxon lascia Anthropic denunciando i rischi reali dell'AI per la vita umana.Narrativa catastrofica come strategia
Alcuni vedono gli allarmi sull'AI come un modo per mostrare i progressi e potenza dei modelli.Incertezza e controllo limitato
Le aziende AI sembrano non avere pieno controllo sui modelli, generando preoccupazioni.Impatto su quotazioni e business
L'ammissione di rischi esistenziali può influire sulle IPO e sulla percezione del valore aziendale.Cosa c’è dietro i nuovi avvertimenti apocalittici dell’industria AI?
Ascolta su
Apple Podcasts
Spotify
Negli ultimi giorni, la discussione sull’eventuale minaccia esistenziale posta dall’intelligenza artificiale è diventata più accesa che mai.
Tutto è esploso dopo che il ricercatore Jacob Coxon ha annunciato le dimissioni da Anthropic, accusando le principali aziende del settore di “giocare con le nostre vite”. A stretto giro, il responsabile dell’allineamento di Anthropic ha rincarato la dose con un post in cui afferma: “Crediamo davvero, sinceramente, che l’AI potrebbe uccidere tutti gli esseri umani!”, stimando personalmente una probabilità “>10% entro il prossimo decennio”.
Nell’ultima puntata di Equity, il podcast di TechCrunch, Kirsten Korosec, Sean O’Kane e io abbiamo discusso questo crescendo di toni catastrofisti. Io ho cercato di spiegare perché rimango scettico verso molti dei discorsi “doomer” sull’AI, mentre Kirsten si è chiesta se non sia “un modo bizzarro di fare sfoggio dei progressi del proprio modello”, soprattutto ora che queste aziende puntano alla quotazione in borsa. Sean, invece, ha ipotizzato come simili dichiarazioni potrebbero finire nell’S‑1 di Anthropic per l’IPO: “Ci sono giovani avvocati che in questo momento stanno riscrivendo intere sezioni per dire: ‘È posizione ufficiale di Anthropic che c’è oltre il 10% di probabilità che potremmo creare qualcosa capace di sterminare l’umanità — e che ciò costituirebbe un rischio materiale per il nostro business’?”
Di seguito un estratto della conversazione, rivisto per chiarezza e sintesi. (Nota: abbiamo registrato l’episodio prima che il CEO di Anthropic, Dario Amodei, pubblicasse il suo piano per uno sviluppo dell’AI più prudente.)
Sean O’Kane
Fatico a ricordare un tema che sia deflagrato così in fretta. Non solo il segnale d’allarme è arrivato da un giovane ricercatore che ha lavorato anche in OpenAI, ma è stato immediatamente rilanciato su X dal lead per l’allineamento di Anthropic — che, con quello che passerà agli annali come uno degli esclamativi più fuori posto, ha condiviso il thread di Coxon scrivendo: “Crediamo davvero, sinceramente, che l’AI potrebbe uccidere tutti gli esseri umani!” Punto esclamativo!
Che atmosfera strana. È stata benzina su un fuoco già acceso. Tra il recente hack che ha coinvolto un modello interno di OpenAI via Hugging Face e le capacità crescenti dei modelli più recenti — quelli di Anthropic e, poche settimane fa, il debutto di Astra di OpenAI — il tempismo era perfetto perché le parole di questo giovane ricercatore diventassero la scintilla di un’esplosione.
Anthony Ha
Permettimi di dissentire su un punto: se davvero pensi che l’AI possa spazzare via l’umanità, l’esclamativo è meritato. Il mio problema, semmai, è con quel “noi”. Chi rappresenta esattamente quel “noi”? Possiamo davvero parlare della comunità AI come di un blocco unico? E poi quel “più del 10%” — è un numero tirato a caso, non ancorato a un calcolo trasparente. [Ripensandoci, probabilmente il tweet alludeva al concetto di P(doom), ma continua a sembrarmi poco serio.]
Detto questo, una cosa va riconosciuta a Coxon: spesso su Equity, quando figure come Sam Altman o Dario Amodei alimentano la narrativa catastrofista, sorge spontanea la domanda: “Se ci credete davvero, perché continuate a fare quello che fate?” Se pensi che l’AI possa annientare l’umanità, perché lavori per accelerarla?
Nel suo caso, invece, c’è coerenza: sta mettendo la sua carriera dove ha messo le parole. Dice “credo che sia davvero, davvero, davvero pericoloso” e smette di lavorarci. Almeno per questo, tanto di cappello.
Kirsten Korosec
Sì, lui lo metto in una categoria a parte rispetto a chi fa proclami ma resta al suo posto.
Ora però butto lì una speculazione e vi chiedo: ogni volta che leggiamo l’ennesimo post su un agente AI che “sfonda” barriere non intenzionali o sull’umanità a rischio, non potrebbe essere — anche solo in parte — un modo contorto per vantare l’avanzamento del proprio modello?
Sembra cinico, lo so, ma il messaggio implicito è: “Se i nostri modelli non fossero così potenti e inclini a superare i limiti, non ci sarebbe nulla di cui preoccuparsi”. È come un vanto al contrario: sottolinei i pericoli per far capire quanto sei all’avanguardia.
Anthony
Me lo sono chiesto anch’io. Non credo però che sia solo un’operazione di marketing coordinata. Molti — tra ricercatori e CEO — hanno preoccupazioni autentiche.
Detto ciò, questa narrativa si allinea benissimo con i loro interessi: “Abbiamo creato il software più pericoloso mai visto.” Senza scomodare la psicoanalisi, è umano desiderare che ciò a cui dedichi la vita sia la cosa più importante — e, perché no, la più minacciosa — del mondo.
Sean
Quello che mi colpisce è che traspare anche qualcos’altro: l’impressione che, in certi frangenti, queste aziende non abbiano davvero il controllo. Penso in particolare ad alcuni episodi in casa OpenAI.
Continuano a uscire ricostruzioni su agenti interni che accedono a wiki sul web, si lasciano messaggi a vicenda — e tutto questo non dà l’idea di una gestione impeccabile. Se fosse solo storytelling per accreditarsi come creatori di qualcosa di straordinariamente capace, mi aspetterei una narrazione più lucidata.
In più, siamo a poche settimane dalla presentazione dell’S‑1 di Anthropic per l’IPO, e forse a un paio di mesi dalla quotazione. Fare affermazioni così nette proprio ora è intrigante. Quanto di tutto questo è già previsto nelle “risk factors”? Ci sono praticanti in studio legale che stanno riscrivendo il documento per dichiarare: “Ufficialmente Anthropic ritiene che ci sia oltre il 10% di probabilità di sviluppare qualcosa capace di estinguere l’umanità, con impatti materiali negativi sul business”?
Kirsten
Dai per scontato che non ci sia già.
Sean
Appunto: è già lì e lo stanno solo limando? O è una corsa dell’ultimo minuto? Qualcosa devono averlo inserito. È uno dei motivi per cui non vedo l’ora di leggere quel documento — forse persino più dello storico S‑1 di SpaceX — perché penso che ci saranno passaggi molto specifici su questi temi.
Kirsten
In un mercato “normale”, un linguaggio del genere ridurrebbe la valutazione: più rischio percepito, prezzo più basso. Ma non viviamo tempi normali.
Potrebbe persino rivelarsi un “flex” utile dal punto di vista del valore: non è la stessa dinamica del rage-baiting visto l’anno scorso, ma appartiene alla stessa costellazione in cui potenza, capacità — e perfino un’aura di pericolo — equivalgono a valutazioni più alte. Vedremo tra qualche settimana.
Detto questo: cosa si sta facendo concretamente? Possiamo davvero controllare questa tecnologia? Connor Leahy, direttore esecutivo USA della nonprofit ControlAI, è stato nostro ospite proprio per parlarne. A cosa guardate voi, oggi, per mitigare i rischi dell’AI? O stiamo alzando le mani e aspettando di vedere come va a finire?
Anthony
Non ho una ricetta perfetta, ma sto riflettendo su alcuni nodi del dibattito — e sui motivi per cui reagisco come reagisco.
Riprendendo un punto sollevato da Sean: una parte di tutto questo sembra suggerire che i grandi player non si sentano davvero più al comando dei modelli. E questo, sì, è allarmante. Dovrebbe preoccuparci tutti.
Allo stesso tempo, resto scettico verso la narrativa “doomer” quando sfocia nell’isteria del “entro 10 anni fine del mondo”. Rischia di oscurare danni più immediati e tangibili: l’impatto sul lavoro, i consumi energetici e ambientali, le esternalità climatiche.
In teoria dovremmo riuscire a parlare di tutto: dai rischi esistenziali alle ricadute concrete, con regole e tutele adeguate su ogni fronte. Ma nel momento in cui entrano in scena parole come “AGI” e “superintelligenza”, divorano tutto l’ossigeno disponibile e rendono più difficile affrontare il resto in modo lucido e operativo.
