Anthropic sceglie Accenture come valutatore integrato per contribuire alla proposta sul rallentamento dell’IA
Anthropic ha dichiarato di aver scelto Accenture come primo valutatore integrato per contribuire a rallentare il ritmo dello sviluppo dell’IA, come proposto la scorsa settimana dal CEO Dario Amodei.
Il 12 settembre Amodei ha pubblicato una proposta in tre fasi per rallentare lo sviluppo dell’IA e consentire l’introduzione di misure di salvaguardia, nel contesto degli avvertimenti sul potenziale di danni catastrofici causati da uno sviluppo rapido e incontrollato.
Il CEO di OpenAI Sam Altman e il CEO di SpaceX Elon Musk hanno reagito positivamente alla proposta di Amodei, mentre il CEO di Nvidia Jensen Huang non lo ha fatto, sostenendo che una simile regolamentazione non fosse necessaria.
Tuttavia, nella sua proposta Amodei ha scritto che «l’IA sta progredendo a una velocità sempre maggiore, spinta principalmente dalla crescente capacità dell’IA di costruire la generazione successiva di IA. Questa dinamica è chiamata auto-miglioramento ricorsivo» e che, «se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi».
Correlato: Il capo di Anthropic chiede di rallentare lo sviluppo dell’IA a un ritmo più sicuro
Il primo passo della proposta di Amodei consiste nell’avere valutatori indipendenti con un accesso simile a quello dei dipendenti, misura alla quale Anthropic si era già impegnata unilateralmente, ha scritto Amodei.
Venerdì Anthropic ha annunciato un passo verso il mantenimento di questo impegno, avviando una collaborazione con Accenture e con la sua divisione IA Faculty per «valutare i modelli e sottoporli a red team, condurre valutazioni dell’allineamento e testare le misure di salvaguardia dei modelli».
I dettagli sulle modalità di attuazione sono ancora in fase di definizione, poiché la valutazione integrata è una pratica nuova, ha dichiarato l’azienda.
Secondo l’annuncio, Anthropic e Accenture prevedono di investire ciascuna almeno 1 miliardo di dollari nel progetto nei prossimi cinque anni.
Anthropic finanzierà direttamente il lavoro data l’urgenza
Anthropic ha osservato che non esiste ancora un sistema per finanziare la valutazione indipendente; pertanto, i finanziamenti a lungo termine dovrebbero provenire da fondi comuni o governativi. Tuttavia, data l’urgenza del lavoro, Anthropic finanzierà direttamente il lavoro di Accenture.
La collaborazione non è esclusiva e Anthropic prevede di annunciare nelle prossime settimane altri valutatori con cui collaborerà.
La Faculty di Accenture è specializzata nel testare e valutare modelli per alcuni dei principali laboratori di IA al mondo e nel costruire sistemi di IA complessi, sicuri ed etici fin dalla progettazione, ha dichiarato l’azienda venerdì.
«La valutazione integrata è un settore emergente e non vediamo l’ora di collaborare con Anthropic per contribuire ad accelerare lo sviluppo di valutatori integrati, che consideriamo una componente importante del panorama della sicurezza per il futuro», ha dichiarato Julie Sweet, presidente e CEO di Accenture.
Rivista: Perché le maggiori aziende di IA chiedono improvvisamente di rallentare?