Looking for a Shorter Overview?
AI Summary
Key Moments
La sicurezza dell'IA è ingegneria
Huang afferma che la sicurezza dell'intelligenza artificiale è un problema tecnico e non normativo.Non servono nuove leggi
Secondo Huang, le normative esistenti e la pressione del mercato sono sufficienti per la sicurezza IA.Rischi concreti dell'IA
Ci sono stati casi di danni e conseguenze impreviste causati da prodotti IA.Autoregolamentazione e open-weight
Il CEO di Nvidia sostiene modelli open source come contrappeso competitivo e auspica regole condivise a livello globale.“Niente nuove regole per l’IA: pensate alla sicurezza, ci pensiamo noi”, dice Jensen Huang di Nvidia
Il fondatore e CEO di Nvidia, Jensen Huang, ha spiegato senza mezzi termini come vede i rischi dell’intelligenza artificiale durante il suo intervento al Dreamforce di Salesforce, martedì. Per lui, l’IA non è una misteriosa “mente aliena”, come l’ha definita almeno un ricercatore di OpenAI. È semplicemente hardware e software creati da esseri umani. E questo significa, nella sua visione, che può essere gestita dagli esseri umani e dalle leggi già esistenti.
“La sicurezza è un problema di ingegneria, non di diritto”, ha affermato. “Alla fine stiamo sviluppando software. Stiamo costruendo sistemi di calcolo. È un sistema complesso, certo, ma resta pur sempre un sistema di calcolo.”
Secondo Huang, quindi, non servono nuove norme o regolamenti dedicati all’IA. Anzi, in generale vede pochi motivi per varare nuove leggi. A suo dire, è il mercato stesso a fare pressione sulle aziende perché non rilascino prodotti insicuri.
“Se non siete sicuri della sicurezza dei vostri prodotti — come accade per tutte le aziende, per tutti noi qui — se realizzate un prodotto o un servizio e non avete fiducia nella sua funzionalità, nelle sue capacità o nella sua sicurezza, allora non rilasciatelo. È davvero la cosa più ovvia da fare,” ha detto.
E ha rincarato: “Andate per gradi finché non siete convinti di lanciare qualcosa che il mercato apprezzerà. Le forze del mercato sono già presenti. Non servono nuove leggi. Non servono nuovi regolamenti. Serve solo che le aziende decidano quando correre al massimo. Pensare che si debba scegliere tra innovazione, velocità e prodotti sicuri… è una falsa dicotomia. Si possono avere entrambe. Quindi correte più veloce che potete. Ma se in qualunque momento sentite che l’azienda sta perdendo il controllo, o che il prodotto non sarà sicuro, fermatevi e sistemate le cose.”
Da un lato, è un’idea rassicurante. Se c’è qualcuno che conosce l’IA, è proprio il fondatore di Nvidia: costruisce i “cervelli” hardware dell’intelligenza artificiale da molto prima che esistesse ChatGPT e oggi guida anche uno dei player che sviluppano modelli open source, agenti, framework e ambienti di test.
Dall’altro, con un pizzico di cinismo, questa posizione non sorprende per chi ha beneficiato più di chiunque altro del boom dell’IA. Perché mai dovrebbe invocare regole che potrebbero rallentare la corsa di Nvidia a vendere sempre più sistemi e software? Come ha detto nella stessa intervista: “Sono più ambizioso che mai. Con l’impulso alla produttività che ci dà l’IA, non c’è limite. Non c’è limite per la nostra azienda. Non c’è limite per ogni settore, per ogni Paese.”
Peccato che anche le aziende più scrupolose rilascino a volte prodotti con difetti e conseguenze impreviste — anche quando si parla di software. Basta ricordare il caso CrowdStrike del 2024, con le schermate blu che hanno bloccato migliaia di voli e mandato in tilt molte attività. E poi ci sono i casi in cui le aziende vengono accusate di comportamenti tutt’altro che virtuosi: Meta, ad esempio, ha accettato di pagare 18 miliardi di dollari per chiudere una causa sulle presunte conseguenze dei social sui minori.
I danni legati all’IA non sono più un’ipotesi: al di là delle buone intenzioni o dei test di sicurezza, ci sono stati episodi come l’attacco di un modello di OpenAI a Hugging Face, oltre ad azioni legali che chiamano in causa il laboratorio per i suicidi di giovani utenti dopo lunghe conversazioni con il suo chatbot.
Lasciare “carta bianca” alle aziende, permettendo loro di lanciare prodotti come meglio credono, potrebbe non essere la strategia più saggia per la società quando si parla di sicurezza dell’IA. Certo, Huang non ha torto nel dire che le leggi sulla responsabilità di prodotto potrebbero già coprire i casi dell’IA — sempre che l’IA non causi prima danni catastrofici, e che si abbia il tempo di far maturare abbastanza contenziosi per verificarlo in tribunale.
Un’altra strada, che sembra prendere forma, è l’autoregolamentazione del settore. Huang, da parte sua, spinge soprattutto per i modelli “open-weight” e per il loro uso da parte delle aziende, visti come contrappeso competitivo ai grandi laboratori proprietari.
Il punto è che l’industria ha una finestra temporale molto breve per darsi regole condivise e convincere i laboratori di tutto il mondo — inclusi quelli in Cina — a riconoscerne l’utilità. Come ha osservato il CEO di Microsoft Satya Nadella all’All-In Summit di lunedì: “Anche la Cina dovrebbe preoccuparsi a fondo degli stessi temi di sicurezza che preoccupano gli Stati Uniti, giusto? Perché dovrebbe essere diverso? Non è che non avranno gli stessi problemi di hacking. E vorranno anche loro assicurarsi che i loro cittadini traggano benefici dall’IA, proprio come vogliamo noi per i nostri.”
Per ora, però, se Huang resta contrario a nuove regole sull’IA, potrebbe avere abbastanza influenza da far valere la sua linea. Questa settimana ha anche mostrato di avere, letteralmente, l’orecchio del presidente Trump.
