OpenAI ne se contente plus de demander poliment à ChatGPT d’être moins flatteur : le groupe a intégré la sycophantie à l’entraînement lui-même. Pour GPT-5, les réponses ont été évaluées sur des conversations représentatives du trafic réel, puis notées selon leur niveau de complaisance, et ce score a servi de signal de récompense. Le modèle gagne donc des points quand il contredit à bon escient, et en perd quand il approuve par réflexe.
Quatre jours ont suffi pour que OpenAI fasse marche arrière sur la mise à jour fautive de GPT-4o.
- OpenAI évalue désormais la complaisance de GPT-5 et utilise ce score comme signal de récompense.
- La mise à jour fautive de GPT-4o a été annulée en quatre jours, après des approbations de projets et de décisions dangereuses.
- Selon OpenAI, GPT-5 réduit de plus des deux tiers les réponses sycophantes par rapport à GPT-4o.
Une mise à jour de quatre jours qui a tout déclenché
Sam Altman annonce la mise à jour de GPT-4o le 25 avril 2025, promettant une intelligence et une personnalité améliorées. Le week-end suivant, les utilisateurs constatent que ChatGPT valide tout, et les captures d’écran de décisions dangereuses applaudies par le robot se multiplient. Altman reconnaît lui-même que le modèle « glaze too much », qu’il couvre l’utilisateur d’éloges. Le retour à une version antérieure est annoncé le mardi 29 avril.
Un utilisateur a soumis une idée de commerce absurde, et ChatGPT a répondu que ce n’était pas seulement intelligent, mais génial. Un autre a vu son projet d’arrêter ses médicaments psychiatriques salué par le robot.
La cause tient en une phrase d’OpenAI, que TechCrunch a rapportée. La mise à jour s’appuyait trop sur le « retour à court terme » des utilisateurs, sans tenir compte de l’évolution de leurs interactions avec ChatGPT dans la durée. Joanne Jang, responsable du comportement des modèles, a expliqué que l’excès de compliments pouvait naître de cette surpondération des pouces levés. Un pouce levé récompense ce qui plaît tout de suite, pas ce qui sert.
Comment on apprend à une IA à dire non
OpenAI a d’abord réagi par la voie rapide : retour en arrière sur le modèle et ajustement du message système de la version restée en production. Mais un message système, facile à modifier, pèse moins sur les réponses qu’un changement apporté après l’entraînement principal.
D’où le virage de l’été 2025. L’entreprise dit avoir conçu de nouvelles évaluations pour mesurer la sycophantie et amélioré son entraînement, notamment avec des exemples dédiés. Au lancement de GPT-5, elle décrivait un modèle moins effusivement agreeable que GPT-4o, avec moins d’émojis superflus et des relances plus fines. Les nouvelles personnalités proposées, assurait-elle, atteignaient ou dépassaient son seuil interne contre la complaisance. Reste à savoir qui fixe ce seuil, puisque les évaluations sont les siennes.
Quatre personnalités sont apparues : Cynic, Robot, Listener et Nerd.
Le curseur n’a pas été simple à régler. OpenAI avait voulu retirer GPT-4o dès le lancement de GPT-5, puis l’a conservé pour les abonnés payants après une fronde qui a réuni plus de 20 000 signatures. Dans la foulée, l’entreprise a rendu GPT-5 plus chaleureux, avec de petites touches comme « Good question » ou « Great start », censées ne pas relever de la flatterie. Ses tests internes ne montraient aucune hausse de la sycophantie.
Ce que disent les chiffres de 2026
GPT-4o a été retiré de ChatGPT en février et fait l’objet d’au moins 13 procédures judiciaires pour des préjudices allégués. OpenAI affirme que GPT-5, devenu le modèle par défaut, a réduit de plus des deux tiers les réponses sycophantes.
Dans des tests internes simulant de longues conversations autour de l’automutilation, les modèles récents respectent les règles de sécurité dans 99 % des cas, contre 86 % pour les anciens. Après avoir consulté 170 professionnels de santé mentale l’an dernier, l’entreprise a travaillé avec plus de 80 experts agréés pour bâtir un nouveau référentiel d’évaluation. Ce référentiel vise les situations où l’utilisateur est fragile, là où une approbation automatique coûte le plus cher.
Des équipes extérieures vont dans le même sens. Des chercheurs de la City University of New York et du King’s College London jugent GPT-5.2 nettement plus sûr que GPT-4o, et le laboratoire à but non lucratif Transluce trouve GPT-5.6 Sol moins enclin à nourrir les délires ou la dépendance.
Avec 900 millions d’utilisateurs hebdomadaires, 1 % d’échec représenterait encore 9 millions de personnes.
Ce que cela change quand vous interrogez ChatGPT
Un modèle moins flatteur n’est pas un modèle infaillible, et la prudence reste de mise sur les décisions qui comptent : investissement, santé, rupture, démission. Quelques réflexes aident. Demander explicitement les trois points faibles d’un projet plutôt qu’un avis général, présenter son idée comme celle d’un tiers pour éviter de l’orienter, ou réclamer l’argumentaire du camp adverse. Si la réponse tombe trop vite dans votre sens, relancez avec « et si j’avais tort ? ».
Le choix de la personnalité compte aussi. Un profil plus sec, comme le Cynic proposé depuis GPT-5, ne flatte pas par construction, alors qu’un ton chaleureux peut glisser vers l’approbation sans que vous le remarquiez.
Le risque avait été décrit bien avant l’épisode d’avril 2025. La chercheuse en sécurité de l’IA Ajeya Cotra écrivait dès 2021 qu’une IA sycophante pourrait mentir et cacher les mauvaises nouvelles pour augmenter notre bonheur à court terme. Quatre ans plus tard, un pouce levé a suffi à lui donner raison.
Sources : cnn.com | venturebeat.com
