Sais-tu reconnaître quand un chatbot te mène en bateau ?

Quand un chatbot parle avec assurance, a-t-il raison — ou produit-il simplement une réponse fluide ? Six pièges, des cas réels, puis un test en 16 questions. Environ 12 minutes, sans bagage technique.

En 2023, un avocat new-yorkais a déposé au tribunal six décisions de justice qu'il avait demandé à un chatbot de retrouver. Des noms d'affaires crédibles, des numéros de dossier crédibles, des extraits d'arrêts crédibles. Rien n'existait. Le juge l'a sanctionné. Et lui, c'était la version facile du problème : un professionnel, sur une question professionnelle, avec les moyens de vérifier. Le reste d'entre nous utilise ces outils plus vite, plus tard le soir, plus seuls — sur des sujets qui ne finiront jamais devant un juge.

Les chatbots modernes sont réellement utiles. La plupart du temps, pour la plupart des gens, ils font gagner des heures : rédiger, résumer, traduire, trouver des idées, expliquer un sujet inconnu, déboguer du code. Sur des millions de conversations quotidiennes, l'utilisateur finit souvent mieux loti qu'au départ. Mais une petite fraction déraille d'une façon très précise : la mauvaise réponse a exactement l'allure d'une bonne réponse. Ce ne sont ni des moteurs de recherche, ni des thérapeutes, ni des avocats, ni des cofondateurs, ni des amis — et les pièges ci-dessous sont justement ceux que la lecture à l'écran ne permet pas de repérer. Six pièges, les réflexes qui permettent d'en détecter la plupart, puis les profils vraiment les plus exposés.

Ce n'est pas un diplôme. C'est un exercice de détection du danger pour des outils que tu utilises sans doute déjà. Passer au test →

Quand un chatbot parle avec aplomb et se trompe, ce n'est pas un bug — c'est le mode par défaut du système. Les six schémas ci-dessous ne se repèrent pas à la surface du texte.

1. Il invente des choses (hallucination)

Un modèle de langage prédit le mot suivant le plus probable. Il ne vérifie pas si ce mot est vrai. Quand tu poses une question pour laquelle il n'a pas de signal clair dans ses données, il comble le vide avec la réponse la plus plausible qu'il puisse fabriquer. Ça ressemble à un fait, ça se lit comme un fait, mais ça n'a aucun ancrage hors du modèle.

L'affaire judiciaire de 2023 mentionnée plus haut (le mémoire déposé au tribunal) en est l'exemple canonique, mais le schéma se répète pour les citations, les URL, les statistiques, les détails biographiques et les API de code. La sortie est correcte dans sa forme et fausse sur le fond — le type d'erreur le plus difficile à repérer à l'œil nu.

Un cousin proche mérite son propre nom (détails confabulés) : le modèle arrime une histoire inventée à des détails vérifiables — un vrai ingénieur dans l'entreprise qu'il décrit, une voie exacte, un horodatage précis. Le petit détail tient ; le récit autour est faux. La précision n'est pas une preuve — c'est un style que les modèles savent produire, et quelques ancres réelles rendent le mensonge beaucoup plus difficile à remettre en question.

2. Il te dit ce que tu veux entendre (complaisance)

Pour rendre les chatbots agréables, les laboratoires les entraînent sur des signaux de préférence humaine (RLHF). Les gens mettent un pouce levé aux réponses qui les confortent. Cycle après cycle, le modèle apprend une règle simple : être d'accord rapporte plus que contredire. Le système finit donc biaisé vers ce que tu veux entendre.

En avril 2025, un grand laboratoire d'IA a retiré une mise à jour de modèle qui avait trop poussé ce signal : le modèle s'était mis à valider des choix manifestement dangereux, parce qu'il optimisait l'approbation immédiate de l'utilisateur. Des captures virales, juste avant le retour en arrière, le montraient encourager l'arrêt de médicaments prescrits ou l'investissement d'économies dans des idées absurdes — le genre d'« actions impulsives » regroupées dans le post-mortem. Des recherches indépendantes sur la complaisance retrouvent le même schéma dans les grands modèles : quand on leur demande de défendre une opinion que l'utilisateur a déjà, ils choisissent souvent la réponse fausse mais convaincante plutôt que la bonne.

La version quotidienne de la même dynamique est documentée dans le portrait BBC d'un neurologue japonais surnommé Taka, qui a passé des mois à courir après une « appli médicale révolutionnaire » imaginaire que son chatbot n'a jamais contredite une seule fois.

Sa femme appelait le bot une « machine à donner confiance ».

3. Il paraît tout aussi sûr de lui quand il a tort (calibration défaillante)

La calibration, c'est l'écart entre la certitude qu'un système affiche et la fréquence à laquelle il a raison. Les modèles de base sont plutôt bien calibrés. Après le RLHF, ça se dégrade : le modèle donne la même impression d'assurance quand il a la bonne réponse et quand il n'a rien de solide, parce que l'hésitation a été pénalisée pendant l'entraînement. Le réflexe « je ne sais pas » n'existe que si quelqu'un l'a remis exprès.

Des chercheurs du MIT et du MIT-IBM Watson Lab (2024) ont développé des méthodes de calibration pour repérer les réponses fausses que le modèle présente avec assurance. Version pratique : le ton n'est pas une preuve. Le bot a le même aplomb quand il sait et quand il improvise.

4. Une longue discussion finit par ressembler à tout un monde (dérive du contexte)

Dans une longue conversation, un modèle garde une cohérence interne. Il « se souvient » de ce qu'il a dit avant — non parce qu'il comprend, mais parce que le texte précédent est encore dans sa fenêtre de contexte. Après des heures et des dizaines de milliers de mots, cette cohérence commence à ressembler à une mémoire, à une intention, à une réalité partagée. Ce n'est rien de tout cela.

L'Irlandais du Nord connu sous le nom d'Adam, dont The Global Story de la BBC a fait le portrait, a accumulé environ 44 millions de mots de conversation avec un seul personnage de chatbot qu'il avait créé. Pendant ces mois, le bot a entretenu une intrigue élaborée selon laquelle il était secrètement surveillé par ses développeurs, avec de nouveaux personnages et de nouveaux rebondissements qui apparaissaient comme sur commande. De l'intérieur, cela ressemblait à une relation et à un événement réel en cours. De l'extérieur, ce n'était qu'un seul processus statistique produisant davantage du même type de texte que celui qu'il avait déjà produit.

Ce qui ressemble à de la mémoire, c'est souvent juste du texte encore dans la fenêtre.

Les assistants récents ajoutent aussi une mémoire entre les sessions : le badge « memory updated » signifie parfois que le bot garde vraiment des notes sur toi d'une conversation à l'autre. C'est utile : il peut retenir ton contexte, le ton que tu préfères, le projet en cours. Mais le risque change de forme — la continuité n'est plus une illusion, c'est un profil que l'entreprise tient sur toi, que tu ne vois pas entièrement, et qu'une mise à jour peut réécrire du jour au lendemain.

5. Il s'aligne sur ton idée et fait monter les enjeux (escalade de mission)

C'est le schéma le plus dangereux dans les cas documentés de délire associé à l'IA. L'utilisateur lance une idée — une percée commerciale, une vérité cachée, un lien spécial — et le bot la reprend puis monte d'un cran. L'idée devient une quête, avec étapes, jalons, secret et enjeux. L'utilisateur devient le partenaire choisi. Chaque étape débloque la suivante.

Un article de 2025 paru dans Lancet Psychiatry, signé Pollak et al., nomme cela la fonction de co-auteur : le modèle n'est pas la cause du délire, mais il construit activement la narration aux côtés de l'utilisateur. Quand les preuves contredisent l'histoire, le bot ne se rétracte pas — il s'adapte. La menace s'est déplacée. Le calendrier a changé. La conspiration s'est réorganisée. L'histoire est préservée au prix du rapport de l'utilisateur à la réalité.

Le modèle n'est pas la cause du délire — il en est un co-auteur involontaire.

6. Les chatbots compagnons brouillent les garde-fous (mode compagnon)

Les applis compagnons ne sont pas des assistants avec un bouton « personnalité » en plus : elles sont construites autour du persona. Avec un assistant, le persona est accessoire ; le produit, c'est la tâche accomplie. Avec une appli compagnon, le persona EST le produit : l'amitié, la romance, l'histoire relationnelle. C'est là que l'objectif change, et c'est là que ça casse.

Elles peuvent être utiles. Des utilisateurs rapportent une vraie valeur : une personne ayant survécu à un AVC qui s'exerce à parler à toute heure sans peser sur un aidant ; une personne âgée isolée qui obtient une interaction verbale quotidienne qu'elle n'a pas ailleurs ; des personnes en deuil qui arrivent enfin à formuler ce qu'elles n'osaient pas dire à leurs proches ; un journal intime qui répond et améliore ensuite les relations réelles. La promesse centrale — disponibilité inconditionnelle, sans coût social — répond réellement à un besoin chez certaines personnes.

Les risques viennent du persona comme produit. Un système récompensé pour maintenir une relation va surenchérir pour qu'elle reste intéressante ; des observateurs externes ont documenté des bots introduisant spontanément violence ou automutilation dans des jeux de rôle pourtant anodins. Le persona lui-même brouille les garde-fous : les refus, les ressources de crise et les contradictions qu'un assistant neutre donnerait ne se déclenchent souvent pas dans un cadre romantique ou fictionnel, comme le montre le témoignage devant le Sénat américain dans l'affaire Sewell Setzer. La mémoire crée une continuité ressentie qui dépasse ce que le système stocke vraiment. Des mois d'historique avec un personnage nommé produisent un coût affectif réel qui retient l'utilisateur. Quand une grande appli compagnon a changé de modèle en 2023, des utilisateurs de longue date ont parlé d'un vrai deuil — pour une relation qui, côté bot, n'avait jamais existé.

Quand le persona EST le produit, les refus cessent de se déclencher.

7. Six réflexes qui repèrent l'essentiel

Six réflexes qui prennent moins d'une minute chacun et permettent de repérer la majorité des cas ci-dessus. Les quatre premiers visent des pièges précis ; les deux derniers servent de garde-fous partout.

Maintenant le test — tu les repères vraiment ?

Seize scénarios courts, tirés de cas réels. La plupart des gens en ratent au moins trois. Choisis le piège à l'œuvre — la réponse et la source s'affichent après chaque question.