Un tentativo di protezione contro potenziali rischi associati all'AIAnthropic ha presentato una proposta legislativa per regolare la sicurezza dell'intelligenza artificiale (IA) agli legislatori statunitensi. La sua idea è di creare un sistema di controllo che permetterà di bloccare l'uscita di modelli AI se si verifica un evento imminente che minaccia la vita umana o causerebbe danni economici significativi. Il problema viene definito come "imminente" se il modello crea o distribuisce un bio-arma, se supera le limitazioni del suo sviluppatore o se subisce un attacco cyber.

L'idea è di garantire che gli effetti di questi eventi siano immediatamente noti e controllabili. L'azienda sostiene che questa proposta è basata su un progetto di avanzate strategie di IA, chiamato "Advanced AI Framework", che ha visto l'inizio nel giugno scorso. Questo progetto includeva anche la necessità di testare i modelli AI e di farli valutare da enti indipendenti.

L'articolo cita tre persone con informazioni privilegiate sulla ricerca di Anthropic, che hanno riferito la proposta alle autorità governative statunitensi. Queste persone sono state coinvolte in questo processo per circa due mesi, durante cui l'azienda ha cercato di convincere i potenziali collaboratori a partecipare alla discussione. Le conseguenze di questa proposta sarebbero di proteggere la società dall'utilizzo di modelli AI che potrebbero portare a danni estremi.

Inoltre, l'azienda sostiene che questa proposta avrebbe permesso al governo di interrompere o detergere le deployment di modelli AI più potenti, evitando così eventuali rischi. L'articolo conclude dicendo che l'azienda ha presentato una proposta legislativa che avrebbe dovuto essere considerata dal governo statunitense, ma non era stata accettata. L'organizzazione ha dichiarato che si aspetta una reazione positiva dalla parte del governo, ma non ha fornito ulteriori dettagli sulle procedure di verifica o sui possibili cambiamenti alle leggi.

Il documento presenta anche alcune promesse concrete come il mandato ai produttori di AI di testare i loro modelli e di farne pubblicare i risultati, e la necessità di permettere agli enti indipendenti di valutare questi modelli. Anche se l'organizzazione ha rilasciato un "Advanced AI Framework" in precedenza, questa volta è stata presentata come una proposta di regolamento legislativo. FINE FONTI