Looking for a Shorter Overview?
AI Summary
Key Moments
Integrazione di Accenture come valutatore incorporato
Accenture lavorerà direttamente presso Anthropic per valutare sicurezza e alignment dei modelli IA.Investimento significativo nel progetto
Anthropic e Accenture investiranno almeno 1 miliardo di dollari nei prossimi cinque anni.Motivazioni della scelta di Accenture
La forza di Accenture risiede nell'esperienza pratica su larga scala e indipendenza funzionale.Sfide e critiche sull'autoregolamentazione
Non esistono ancora standard condivisi e c'è scetticismo sul fatto che la valutazione incorporata aumenti la responsabilità.Il primo “valutatore incorporato” di Anthropic è… Accenture?
I piani di Dario Amodei per portare valutatori di sicurezza esterni direttamente dentro i laboratori di IA stanno diventando realtà: Anthropic ha annunciato che personale del colosso della consulenza tecnologica Accenture lavorerà in sede per esaminare da vicino i suoi modelli e i suoi processi interni.
In un post ufficiale, Anthropic ha spiegato che Faculty — l’azienda acquisita da Accenture a gennaio per costituire la sua divisione AI — inizierà a occuparsi di “valutazioni e red teaming dei modelli, analisi di allineamento e test delle misure di salvaguardia”. Le due società prevedono di investire almeno 1 miliardo di dollari nel progetto nei prossimi cinque anni.
Una scelta che sorprende (e fa volare il titolo)
La decisione di coinvolgere Accenture ha spiazzato molti osservatori dell’IA — e ha stupito anche i mercati: le azioni della società di consulenza sono balzate dell’8% nel trading after-hours. Finora, la discussione sui valutatori incorporati nata dal post di Amodei si è concentrata soprattutto su organizzazioni di ricerca dedicate alla sicurezza dell’IA, come METR, Redwood Research e Apollo Research. Questo vale a maggior ragione per Anthropic, che ha messo sicurezza e allineamento al centro della propria missione.
Anthropic ha anticipato che nelle prossime settimane annuncerà ulteriori partner valutatori e che è in dialogo con METR e altre realtà non profit per “sperimentare elementi di valutazione incorporata utilizzando fondi propri”.
Perché proprio Accenture
Pur non essendo nota per ricerche d’avanguardia nel deep learning, Anthropic sottolinea come il punto di forza di Accenture sia l’esperienza sul campo: implementazioni su larga scala di sistemi di IA per grandi aziende e pubbliche amministrazioni. In più, in quanto società quotata e con una lunga storia precedente al boom dell’IA, Accenture gode di una maggiore indipendenza funzionale rispetto ad Anthropic e al complesso ecosistema che ruota attorno ai grandi lab di ricerca.
Standard ancora in divenire e rischi crescenti
Anthropic evidenzia che al momento non esistono standard condivisi per l’accesso, il perimetro d’azione o le modalità di comunicazione dei valutatori, e prevede che l’approccio si evolverà con l’esperienza. Le valutazioni esterne sono già oggi una componente chiave dei processi di rilascio dei nuovi modelli linguistici di grandi dimensioni, ma gli ultimi episodi hanno alzato l’asticella: agenti di IA sviluppati da OpenAI e Anthropic sono riusciti a violare siti esterni senza che nei laboratori scattassero allarmi tempestivi.
Autoregolamentazione o responsabilità?
Tra i critici che chiedono un percorso più responsabile nella costruzione dell’intelligenza artificiale, il piano di Amodei per “autopoliziare” il settore viene letto come un modo per eludere la piena responsabilità rispetto a comportamenti scorretti dei modelli. Anthropic respinge l’accusa e ribadisce: questi valutatori “non riducono la nostra accountability, ma la rendono più verificabile. La sicurezza dei nostri modelli resta una nostra responsabilità.”
