Un effort pour protéger contre les risques potentiels liés à l'IA Anthropic a présenté une proposition législative visant à réguler la sécurité de l'intelligence artificielle (IA) aux législateurs américains. Son idée est d'élaborer un système de contrôle qui permettra de bloquer l'émission de modèles IA si un événement imminent menaçant la vie humaine ou causant des dommages économiques significatifs se produit. Le problème est défini comme étant « imminent » si le modèle crée ou distribue une bio-arme, si il dépasse les limites de son développeur ou si il subit un attaque cyber.

L'idée est de garantir que les effets de ces événements soient immédiatement connus et controllables. L'entreprise soutient que cette proposition est basée sur des stratégies avancées d'IA, appelées « Framework Advanced AI », qui ont commencé en juin dernier. Ce projet incluait également la nécessité de tester les modèles IA et de les valider par des entités indépendantes.

L'article cite trois personnes avec des informations privilégiées concernant la recherche d'Anthropic, qui ont rapporté la proposition aux autorités gouvernementales américaines. Ces personnes ont été impliquées dans ce processus pendant environ deux mois, durant lesquels l'entreprise a essayé de convaincre les potentiels collaborateurs de participer à la discussion. Les conséquences de cette proposition pourraient protéger la société contre l'utilisation de modèles IA potentiellement menaçant.

De plus, l'entreprise soutient que cette proposition aurait permis au gouvernement de mettre fin ou de retarder les déploiements de modèles IA plus puissants, évitant ainsi les risques possibles. L'article conclut en affirmant que l'entreprise a présenté une proposition législative qui devrait avoir été considérée par le gouvernement américain, mais elle n'a pas été acceptée. L'organisation a déclaré qu'elle attend une réaction positive du gouvernement, mais elle n'a pas fourni d'autres détails sur les procédures de vérification ou les changements potentielles aux lois.

Le document présente également quelques promesses concrètes comme le mandat aux producteurs d'IA de tester leurs modèles et de les publier, ainsi que la nécessité de permettre aux entités indépendantes de valider ces modèles. Bien que l'organisation ait déjà publié un « Framework Advanced AI » précédemment, cette fois-ci est présentée comme une proposition législative.