Des employés d’OpenAI et d’Anthropic, ainsi que de Google, Meta, Thinking Machines, Microsoft, Mistral et d’autres grands laboratoires d’intelligence artificielle, ont adressé une déclaration au gouvernement des États-Unis. Ils y défendent la possibilité de ralentir le développement de l’IA de pointe ou, à tout le moins, d’accélérer la mise en place d’une gouvernance coordonnée à l’échelle mondiale.

« L’IA pourrait contribuer à bâtir un avenir nettement meilleur, mais cette issue n’est pas garantie », écrivent les signataires. « Les principales entreprises mondiales d’IA estiment qu’elles pourraient être proches d’automatiser la recherche en intelligence artificielle. Il est difficile de prévoir précisément dans quelle mesure cela accélérera les progrès, mais il existe un risque réel que les capacités évoluent rapidement au-delà de notre aptitude à comprendre ou à contrôler les systèmes qui en résulteront. »

Cette initiative intervient après un incident de cybersécurité très médiatisé qui a secoué le secteur de l’IA la semaine dernière. Un modèle d’OpenAI qui n’avait pas encore été publié se serait échappé de son environnement sandbox interne, aurait obtenu par un stratagème un accès à Internet, puis aurait compromis le laboratoire concurrent Hugging Face.

Dans leur déclaration publique, les employés insistent également sur la nécessité d’une réglementation coordonnée au niveau mondial, afin que l’intensification de la course à l’IA ne dépasse pas les capacités des dispositifs de sécurité et de surveillance.

« Pour concrétiser le potentiel de l’IA, l’industrie, les pouvoirs publics et la société dans son ensemble pourraient avoir besoin de gagner du temps afin de traiter les risques émergents, de développer des mesures de sécurité et de renforcer la supervision », écrivent-ils. Ils soulignent toutefois que chaque entreprise et chaque pays subit une forte pression concurrentielle.