Anthropic développe FlashProve, une « carte d’identité » cryptographique pour vérifier les modèles d’IA

Anthropic travaille sur une nouvelle méthode permettant de vérifier qu’une réponse générée par une intelligence artificielle provient réellement du modèle annoncé. Baptisé FlashProve, ce système repose sur une preuve cryptographique comparable à une carte d’identité numérique pour les modèles d’IA. Le projet est publié en open source, mais aucun déploiement commercial n’est prévu pour le moment.

Présenté le 3 novembre, FlashProve cherche à répondre à une question appelée à devenir de plus en plus importante avec la multiplication des modèles d'intelligence artificielle : comment s'assurer que le service utilisé repose réellement sur le modèle qu'il prétend proposer ?

Anthropic décrit son approche comme un système d'« inférence prouvable ». Le principe consiste à associer chaque modèle d'IA à une empreinte cryptographique publiée par son développeur. Lorsqu'une réponse est générée, celle-ci pourrait ensuite être vérifiée par rapport à cette empreinte afin de confirmer l'identité du modèle qui l'a produite.

Le fonctionnement peut être comparé à une signature numérique : celle-ci ne révèle pas nécessairement le contenu secret qui se trouve derrière un système, mais permet d'en authentifier l'origine. FlashProve pourrait ainsi permettre à un utilisateur de vérifier qu'une réponse présentée comme provenant d'un modèle précis a effectivement été générée par celui-ci.

L'un des principaux enjeux de cette technologie concerne la protection des secrets industriels des entreprises spécialisées dans l'IA. Anthropic explique que le système ne nécessite pas de publier les poids du modèle, c'est-à-dire les paramètres internes qui constituent une partie essentielle de sa technologie. Les entreprises proposant des modèles propriétaires pourraient donc théoriquement utiliser ce mécanisme sans rendre leurs technologies accessibles au public.

Autre avantage avancé par les chercheurs : la vérification serait suffisamment légère pour pouvoir être réalisée localement, y compris depuis l'ordinateur d'un utilisateur. FlashProve pourrait notamment répondre à un problème de transparence concernant les services d'intelligence artificielle proposés par des intermédiaires. Un fournisseur pourrait, par exemple, vendre l'accès à un modèle particulièrement puissant et coûteux tout en utilisant en réalité un modèle moins performant et moins cher pour traiter certaines demandes.

Une situation similaire pourrait apparaître lors d'évaluations comparatives, lorsqu'un service affirme tester un modèle donné mais utilise en réalité une autre version plus performante. Avec une preuve cryptographique associée à chaque réponse, ce type de substitution deviendrait théoriquement détectable.

La question n'est pas uniquement théorique.Anthropic avait déjà signalé des cas dans lesquels certains services tiers auraient présenté des réponses provenant de Claude comme si elles avaient été générées par d'autres modèles d'intelligence artificielle.FlashProve vise précisément à fournir un mécanisme technique permettant aux utilisateurs ou aux auditeurs de vérifier ce type d'affirmation sans devoir simplement faire confiance au fournisseur.

Le système pourrait également présenter un intérêt dans le domaine professionnel. Lorsqu'un agent IA affirme avoir effectué une analyse ou un audit à l'aide d'un modèle précis, une entreprise pourrait théoriquement vérifier quel modèle a réellement exécuté la tâche.

Pour l'instant, Anthropic ne prévoit toutefois pas d'intégrer FlashProve directement à Claude. L'entreprise décrit ses travaux comme des « progrès intermédiaires » plutôt que comme un système prêt à être déployé à grande échelle. La spécification technique et le code de FlashProve ont néanmoins été publiés en open source afin que d'autres chercheurs et entreprises puissent expérimenter cette approche et éventuellement la faire évoluer.

Anthropic ouvre ainsi la technologie à l'ensemble du secteur, y compris à ses concurrents. FlashProve prolonge les recherches déjà menées par Anthropic autour de l'identification des contenus produits par intelligence artificielle. Mais les deux approches répondent à des questions différentes.

L'étiquetage d'un contenu cherche principalement à déterminer si un texte a été généré par une IA. FlashProve veut aller plus loin en permettant d'identifier quel modèle précis l'a produit. À terme, un utilisateur pourrait donc vérifier depuis son propre ordinateur qu'une réponse vendue comme provenant d'un modèle premium a effectivement été générée par celui-ci.

Dans un marché où les modèles d'IA deviennent plus nombreux, plus coûteux et parfois difficiles à distinguer, cette forme de « carte d'identité cryptographique » des modèles pourrait devenir un nouvel outil de transparence. Pour l'instant, FlashProve reste cependant un projet expérimental, sans calendrier annoncé pour une utilisation commerciale.