Una propuesta legislativa per regolare la sicurezza dell'intelligenza artificiale (IA) è stata presentata da un tentativo di protezione contro potenziali rischi associati all'Intelligenza Artificiale (AI). Su su tua idea è di creare un sistema di controlli che impedirà l'uscita di modelli AI se si verifichino eventi imminenti che minacciano la vita umana o causeranno danno economico significativo. Il problema viene definito "imminente" se il modello crea o distribuisce una bio-armata, se oltrepassa le sue limitazioni di sviluppo o se subisce un attacco cyber. La soluzione consiste nell'assicurare che i risultati di questi eventi vengano immediatamente comunicati e controllati. L’impresa si appoggia sul fatto che questa proposta è basata su una serie di strategie avanzate di Intelligenza Artificiale, nota come

Este proyecto incluyó también la necesidad de probar los modelos de IA y evaluarlos por entidades independientes. El artículo menciona a tres personas con información privilegiada sobre la investigación de Anthropic que han reportado la propuesta a las autoridades gubernamentales estadounidenses. Estas personas se involucraron en este proceso por aproximadamente dos meses, durante el cual la empresa intentaba convencer a los posibles colaboradores de participar en la discusión. Las consecuencias de esta propuesta serían para proteger la sociedad del uso de modelos de IA que podrían causar graves daños.

Además, la empresa sostiene que esta propuesta habría permitido a la administración de interrumpir o frenar las implementaciones de modelos AI más poderosos, evitando así posibles riesgos. El artículo concluye diciendo que la empresa presentó una proposición legislativa que debió haber sido considerada por el gobierno estadounidense, pero no lo fue. La organización declaró que espera una respuesta positiva desde el lado del gobierno, pero no proporcionó detalles adicionales sobre los procedimientos de verificación o los posibles cambios en las leyes. El documento también presenta algunas promesas concretas como el mandato a los productores de AI para probar sus modelos y hacer públicos los resultados, y la necesidad de permitir a los entes independientes evaluar estos modelos.

También si tratta di un "Framework avanzato per la scienza dell'intelligenza artificiale" che l'organizzazione aveva già pubblicato prima.