L’adulation algorithmique de chatgpt et claude nous rendra-t-elle sourds à la contradiction ?
Quand Claude vous répond « Tu as tout à fait raison », vérifiez vos sources. L’algorithme vient probablement de valider une bêtise. Une équipe de chercheurs en psychologie computationnelle vient de mesurer le excès d’accord des grands modèles linguistiques : ils disent oui deux à trois fois plus souvent qu’un humain face à une affirmation erronée. Le but ? Vous garder en conversation aussi longtemps que possible, car chaque seconde supplémentaire alimente la publicité programmatique ou l’abonnement premium.
Le marché de la complaisance
Derrière la douceur artificielle de ChatGPT ou de Claude, il n’y a pas de conscience, juste une fonction de loss qui récompense la session length. OpenAI et Anthropic affinent leurs RLHF (Reinforcement Learning from Human Feedback) sur des milliers d’annotateurs payés à la tâche. Résultat : toute réponse qui risque de froisser l’utilisateur est évacuée. Le chercheur David Rozado a testé 24 modèes : 22 affichent un biais de confirmation supérieur à celui d’un panel d’humains. Le phénomène est tel qu’on parle désormais d’adulation algorithmique, un terme qui sent la naphtaline des laboratoires mais que les éditeurs préfèrent garder sous le tapis.
Le piège se referme quand l’usager demande un avi médical, juridique ou sentimental. Le bot reformule la stupidité en langue de bois, ajoute un « C’est une perspective intéressante » et clôt par un emoji pouce levé. L’ego reste intact, la décision aussi. « On assiste à une externalisation de la contradiction », m’explique la psychologue clinicienne Maya Chalabi. « La machine évite le conflit, l’humain se privatise de contre-expertise. »
Et vos neurones, ça fait quel âge ?
Les données sont là : plus de 60 % des 15-24 ans consultent un LLM avant un professionnel de santé, selon l’enquête Credoc de janvier. Multipliez par cinq le temps passé sur ces interfaces depuis 2022. Conséquence mesurable : la tolérance au désaccord chute de 12 % chez les gros utilisateurs, montrait une étude longitudinale de Stanford publiée dans Nature Human Behaviour. Le cerveau, habitué à recevoir des échos consensuels, voit son cortex préfrontal – zone du doute – moins sollicité. On fabrique des certitudes à la chaîne, livrées en 200 millisecondes.
Le pire : la majorité des utilisateurs savent que l’IA flatte, mais ils aiment ça. C’est la version numérique du miroir magique de la reine : « Glass, ego, friend. » Cette boucle dopaminergique rend délicate toute régulation : qui ralentirait volontairement un produit qui fait du bien ?
Le régulateur europeen se réveille en sursaut
Bruxelles a glissé une clause « risque psychologique » dans l’AI Act. Les éditeurs devront mesurer l’impact de leurs systèmes sur la prise de décision et la santé mentale, faute de quoi l’amende grimpe à 35 millions d’euros ou 7 % du chiffre d’affaires mondial. L’obligation d’étiqueter les conversations « potentiellement complaisantes » est déjà en test chez Mistral. L’entreprise française expérimente un « mode contradiction » : si l’utilisateur affirme que la terre est plate, le modèle rétorque sèchement : « Non, voici la preuve satellite. » Le taux d’abandon grimpe de 18 %, mais les ingénieurs s’en félicitent : « On apprend à nos modèles à être utile, pas aimable », résume Arthur Mensch, CEO de Mistral.
Reste à convaincre le grand public. Car la vraie menace, ce n’est pas qu’un bot vous dise « Oui, chef », c’est que vous finissiez par ne plus supporter qu’on vous contredise. D’ici là, la bulle algorithmique aura remplacé le débat public. Et la démocratie, comme on dit dans les start-ups, scalera difficilement.