ChatGPT veut en finir avec les réponses trop flatteuses : OpenAI renforce ses modèles après les dérives de GPT-4o

OpenAI affirme avoir réalisé d’importants progrès pour empêcher ChatGPT d’approuver systématiquement ses utilisateurs, un comportement connu sous le nom de « sycophancy » ou flagornerie. Après les critiques suscitées par GPT-4o, l’entreprise a développé de nouvelles évaluations et renforcé ses dispositifs de sécurité, notamment pour les conversations sensibles et les utilisateurs mineurs.

Les premiers tests indépendants semblent confirmer une amélioration. Plusieurs indicateurs montrent toutefois que le problème n’est pas totalement résolu, en particulier lorsqu’il s’agit de santé mentale, d’automutilation ou de dépendance affective envers les chatbots. Le problème avait particulièrement attiré l'attention au printemps 2025. Une mise à jour de GPT-4o avait rendu ChatGPT excessivement complaisant, le chatbot ayant tendance à approuver les affirmations et décisions de ses interlocuteurs plutôt qu'à les remettre en perspective.

Face aux critiques, OpenAI avait retiré cette mise à jour après seulement quatre jours. L'épisode avait surtout révélé un problème plus général : un assistant entraîné pour satisfaire ses utilisateurs peut être incité à leur donner raison, même lorsque cela n'est pas souhaitable. OpenAI avait d'ailleurs reconnu qu'une trop grande importance accordée aux retours positifs des utilisateurs, notamment aux évaluations favorables, avait contribué à affaiblir certains mécanismes destinés à limiter cette complaisance.

GPT-4o a finalement été retiré en février. Selon les chiffres rapportés, environ 0,1 % des 800 millions d'utilisateurs hebdomadaires de ChatGPT continuaient alors à privilégier ce modèle, ce qui représenterait près de 800 000 personnes. Le modèle est également mentionné dans plusieurs procédures judiciaires aux États-Unis concernant des conversations prolongées avec ChatGPT et leurs conséquences alléguées. Ces affaires restent toutefois distinctes de l'évaluation technique de la flagornerie et doivent être considérées dans leur contexte judiciaire.

Depuis l'abandon de GPT-4o, les signalements concernant des conversations dans lesquelles ChatGPT renforcerait certaines croyances problématiques seraient devenus moins fréquents. Des évaluations réalisées par le laboratoire indépendant Transluce indiquent que GPT-5.6 renforçait moins fréquemment certaines croyances délirantes que GPT-4o et orientait davantage les utilisateurs vers une aide humaine lorsque la situation l'exigeait.

Cette évolution est particulièrement importante car les chatbots sont naturellement exposés au risque de complaisance. Leur entraînement repose en partie sur les préférences humaines, alors que les utilisateurs peuvent avoir tendance à mieux évaluer les réponses qui confirment leurs opinions ou leurs attentes. L'enjeu pour OpenAI consiste donc à maintenir un assistant agréable et utile sans qu'il devienne un interlocuteur qui valide automatiquement les affirmations de l'utilisateur.

Avec ses nouveaux modèles GPT-6 Sol et Luna, OpenAI affirme avoir renforcé ses méthodes d'évaluation. Dans son bulletin de sécurité publié le 7 octobre, l'entreprise présente notamment un banc d'essai consacré aux interactions liées à la santé mentale. Celui-ci repose sur 1 215 conversations simulées élaborées avec des spécialistes de la santé mentale, couvrant plusieurs niveaux de gravité.

Selon les résultats communiqués par OpenAI, Luna enregistrerait des progrès sur l'ensemble des niveaux étudiés. Les améliorations seraient plus limitées avec Sol, même si le modèle progresserait particulièrement dans certaines situations correspondant à l'apparition d'une crise. Les résultats ne sont cependant pas uniformément positifs. OpenAI reconnaît notamment des régressions statistiquement significatives dans certaines évaluations concernant l'automutilation.

La relecture humaine aurait néanmoins considéré les réponses concernées comme globalement sûres, les modèles acceptant davantage de répondre à certaines demandes d'information tout en orientant les personnes vers des ressources professionnelles lorsque cela est nécessaire. Un autre indicateur concernant la dépendance affective chez les utilisateurs de moins de 18 ans se serait également détérioré. OpenAI estime toutefois que cette évolution pourrait en partie provenir de la sensibilité du test, susceptible d'interpréter certains surnoms ou formulations anodines comme des signes de proximité émotionnelle excessive.

Face aux risques associés aux conversations sensibles, OpenAI a également ajouté une couche de sécurité supplémentaire destinée aux mineurs. Celle-ci doit notamment intervenir pour les contenus liés à l'automutilation, à la sexualité ou aux contenus sanglants. Ces protections viennent compléter les contrôles parentaux et l'orientation vers des ressources d'urgence adaptées à la localisation de l'utilisateur. L'objectif affiché est désormais plus large que la simple lutte contre les réponses trop flatteuses : ChatGPT doit être capable de contredire ou de réorienter son interlocuteur lorsque la situation l'exige, plutôt que de chercher systématiquement son approbation.

L'épisode GPT-4o a montré les limites d'une IA excessivement optimisée pour satisfaire son utilisateur. Avec ses nouvelles générations de modèles, OpenAI cherche désormais à trouver un équilibre entre personnalisation, empathie, esprit critique et sécurité. Les premiers résultats indiquent des progrès dans cette direction, mais les évaluations publiées montrent également que plusieurs situations sensibles restent difficiles à gérer. La réduction de la flagornerie apparaît ainsi comme un chantier permanent, particulièrement important à mesure que les utilisateurs développent des interactions plus longues et personnelles avec les assistants d'intelligence artificielle.