Technologies
Une étude publiée dans la revue Nature révèle que les principaux modèles d’intelligence artificielle, comme ChatGPT, Claude ou Gemini, peuvent reprendre certains récits diffusés par les médias d’État chinois. Les chercheurs expliquent que cette influence ne résulte pas d’un piratage, mais de la nature des données utilisées pour entraîner ces modèles.
Les modèles d’intelligence artificielle générative sont entraînés à partir d'immenses volumes de contenus collectés sur Internet. Articles de presse, sites web, forums et publications diverses constituent la base de leur apprentissage. Selon les auteurs de l'étude, cette méthode présente un inconvénient : les modèles peuvent intégrer les biais, les orientations éditoriales ou les récits dominants présents dans les données qui leur servent d'entraînement.
Les chercheurs ont constaté que, sur certains sujets politiques sensibles, une part importante des documents utilisés provenait de médias d'État chinois. Ces contenus, largement diffusés sur Internet, peuvent être intégrés aux bases d'entraînement des modèles et influencer les réponses générées lorsqu'ils abordent des thèmes liés à la Chine ou à la géopolitique.
L'étude indique que, pour certains ensembles de données analysés, jusqu'à 23 % des documents provenaient de médias d'État chinois. L'un des principaux enseignements de l'étude concerne les différences observées selon la langue utilisée. Interrogés en mandarin, plusieurs assistants conversationnels produisent des réponses davantage alignées sur les positions officielles de Pékin que lorsqu'ils répondent en anglais ou dans d'autres langues.
Les chercheurs expliquent que cette différence reflète la composition des données d'entraînement disponibles dans chaque langue plutôt qu'une modification volontaire du fonctionnement des modèles. L'étude rappelle que les modèles d'IA reproduisent les tendances statistiques des informations qu'ils analysent. Ils ne vérifient pas systématiquement la fiabilité ou la neutralité des contenus utilisés lors de leur apprentissage.
Pour les chercheurs, cette situation souligne l'importance de mieux contrôler la qualité, la diversité et la représentativité des données d'entraînement afin de limiter les biais et d'améliorer la fiabilité des réponses fournies par les intelligences artificielles génératives.
Les modèles d’intelligence artificielle générative sont entraînés à partir d'immenses volumes de contenus collectés sur Internet. Articles de presse, sites web, forums et publications diverses constituent la base de leur apprentissage. Selon les auteurs de l'étude, cette méthode présente un inconvénient : les modèles peuvent intégrer les biais, les orientations éditoriales ou les récits dominants présents dans les données qui leur servent d'entraînement.
Les chercheurs ont constaté que, sur certains sujets politiques sensibles, une part importante des documents utilisés provenait de médias d'État chinois. Ces contenus, largement diffusés sur Internet, peuvent être intégrés aux bases d'entraînement des modèles et influencer les réponses générées lorsqu'ils abordent des thèmes liés à la Chine ou à la géopolitique.
L'étude indique que, pour certains ensembles de données analysés, jusqu'à 23 % des documents provenaient de médias d'État chinois. L'un des principaux enseignements de l'étude concerne les différences observées selon la langue utilisée. Interrogés en mandarin, plusieurs assistants conversationnels produisent des réponses davantage alignées sur les positions officielles de Pékin que lorsqu'ils répondent en anglais ou dans d'autres langues.
Les chercheurs expliquent que cette différence reflète la composition des données d'entraînement disponibles dans chaque langue plutôt qu'une modification volontaire du fonctionnement des modèles. L'étude rappelle que les modèles d'IA reproduisent les tendances statistiques des informations qu'ils analysent. Ils ne vérifient pas systématiquement la fiabilité ou la neutralité des contenus utilisés lors de leur apprentissage.
Pour les chercheurs, cette situation souligne l'importance de mieux contrôler la qualité, la diversité et la représentativité des données d'entraînement afin de limiter les biais et d'améliorer la fiabilité des réponses fournies par les intelligences artificielles génératives.
AppsFlyer connecte son outil de mesure à ChatGPT Ads
