OpenAI, Google et Anthropic envisageraient un organisme commun pour encadrer les risques liés à l’IA

Face à l’évolution rapide des capacités de l’intelligence artificielle, les principaux acteurs du secteur cherchent à renforcer leurs mécanismes de sécurité. OpenAI, Google et Anthropic discuteraient ainsi de la création d’un organisme indépendant chargé d’établir des normes communes pour évaluer et encadrer les modèles d’IA les plus avancés. Une initiative qui soulève toutefois des interrogations sur la légitimité d’une autorégulation menée par les entreprises elles-mêmes.

Les appels à mieux encadrer l’intelligence artificielle se multiplient à mesure que les modèles deviennent plus performants, notamment dans des domaines sensibles comme la cybersécurité. OpenAI plaide notamment pour l’adoption de normes de sécurité communes et obligatoires afin d’éviter que la course à l’innovation ne pousse les entreprises à réduire leurs précautions. En parallèle, plusieurs grands acteurs technologiques ont appelé à renforcer la réponse internationale face aux risques liés aux cyberattaques assistées par l’IA.

Mais devant l’absence d'un cadre américain suffisamment contraignant à leurs yeux, certains leaders du secteur envisageraient désormais de prendre les devants. Selon les informations rapportées par The Information, OpenAI, Anthropic et Google auraient engagé des discussions autour de la création d’une structure dédiée à la sécurité et au contrôle de l’intelligence artificielle.

Indépendant du gouvernement américain, cet organisme aurait notamment pour mission d’élaborer des standards communs de sécurité, de développer des outils d’évaluation et d’analyser les risques associés aux modèles d’IA les plus puissants. L’objectif serait ainsi d’établir un socle commun entre plusieurs entreprises concurrentes afin que leurs modèles soient soumis à des critères de sécurité comparables avant ou pendant leur déploiement.

Cette réflexion intervient alors qu’OpenAI défend publiquement le développement de normes élaborées directement par l’industrie. L'entreprise souhaite travailler avec d’autres laboratoires spécialisés afin de mettre en place une initiative volontaire, y compris en l’absence de soutien gouvernemental.

Cette approche permettrait aux entreprises de commencer à harmoniser leurs pratiques sans attendre l’adoption d’une nouvelle réglementation fédérale aux États-Unis. Elle répond également à une difficulté propre au secteur : aucune entreprise ne souhaite ralentir seule le développement de ses modèles pendant que ses concurrents continuent d’accélérer. Des standards collectifs pourraient donc théoriquement limiter ce déséquilibre.

La création d'un tel organisme soulève néanmoins une question majeure : les entreprises qui développent les modèles d’IA les plus puissants peuvent-elles être chargées de définir elles-mêmes les règles destinées à les contrôler ? 

OpenAI, Google et Anthropic sont des concurrents directs et disposent d’importants intérêts économiques dans la course à l’intelligence artificielle. Certaines règles de sécurité pourraient ralentir le lancement de nouveaux modèles ou limiter certaines de leurs capacités.

Sans autorité publique ou organisme externe chargé de superviser le dispositif, il resterait également difficile de vérifier de manière totalement indépendante l’application des normes adoptées.

Le projet pourrait donc constituer une première étape vers des standards communs de sécurité dans l’industrie de l’IA, mais sa crédibilité dépendrait largement de sa gouvernance, de la transparence de ses évaluations et du degré d’indépendance accordé à ses mécanismes de contrôle.