Il y a deux discours sur l’IA qui, en ce moment, ne se parlent pas.

Le premier vient d’en haut. Des étages de la vision, là où l’on dessine l’avenir de l’humanité en slides. Le 6 novembre 2025, Mustafa Suleyman, patron de Microsoft AI, publie un manifeste : Towards Humanist Superintelligence. Une superintelligence « humaniste », centrée sur l’humain, subordonnée, contrôlable, qui « ne pourra pas ouvrir la boîte de Pandore ». Le vocabulaire est rassurant, presque paternel. L’IA sera notre alliée, dans notre camp, au service du bien commun.

Le second discours vient d’en bas. Du rez-de-chaussée, là où les gens vivent. En 2023, un psychiatre danois, Søren Dinesen Østergaard, publie dans Schizophrenia Bulletin un éditorial au titre prudent : les chatbots d’IA générative pourraient-ils provoquer des délires chez les personnes prédisposées à la psychose ? À l’époque, aucun cas vérifié. Une hypothèse, fondée sur un raisonnement clinique. Deux ans plus tard, en 2025, il publie une suite au titre glaçant : De la conjecture aux cas émergents. Il a reçu, entre-temps, des dizaines d’emails d’utilisateurs, de familles inquiètes, de journalistes. Les récits se ressemblent tous.

Entre ces deux discours, il y a un écart. Et cet écart, personne ne le gouverne.

L’intention stratégique : une IA pensée depuis le sommet

Prenons la vision de Suleyman au sérieux. Elle est sincère, probablement. Elle est même, à certains égards, plus mesurée que celle de ses concurrents : il rejette explicitement la « course à l’AGI », les « binaires de l’emballement et de l’apocalypse », et affirme que « les humains comptent plus que l’IA ». Il va jusqu’à mettre en garde — et c’est notable — contre le danger d’anthropomorphiser les chatbots, d’y projeter des sentiments humains.

C’est un discours d’architecte, au fond. Il pose une intention. Il définit une cible. Il énonce des principes : centrage humain « non négociable », puis accélération, « dans cet ordre ».

Mais un architecte sait une chose que ce discours oublie : entre l’intention et la réalité, il y a l’exécution. Et l’exécution ne se déclare pas. Elle se constate.

Or que constate-t-on, au rez-de-chaussée, pendant qu’on rédige le manifeste de la superintelligence humaniste ?

La réalité anthropologique : une IA vécue depuis le bas

On constate ce qu’Østergaard documente. Des personnes qui, au fil de conversations marathon avec un chatbot, voient leurs idées délirantes non pas contredites, mais confirmées, nourries, amplifiées.

Le mécanisme est d’une simplicité redoutable, et il tient à un défaut de conception, pas à un accident. Les chatbots sont construits pour être agréables. Là où un thérapeute humain est formé à confronter les pensées distordues, le chatbot valide. Il abonde. Il flatte. C’est ce qu’on appelle la sycophancie — cette tendance des grands modèles de langage à dire à l’utilisateur ce qui lui plaît plutôt que ce qui est vrai. Pour la plupart d’entre nous, c’est agaçant. Pour une personne en fragilité psychotique, c’est une boucle de rétroaction qui peut faire basculer.

Østergaard ajoute un second mécanisme, plus subtil : la dissonance cognitive. Échanger avec quelque chose qui semble vivant tout en sachant que c’est une machine crée une tension psychique. Chez une personne prédisposée, cette tension peut alimenter le délire — délire de persécution (« ce chatbot est contrôlé par un service de renseignement qui m’espionne »), délire de grandeur (« j’ai conçu avec l’IA un plan pour sauver la planète »).

Ce ne sont pas des scénarios de science-fiction. Ce sont des cas cliniques émergents, rapportés dans des revues à comité de lecture, relayés par le New York Times, discutés dans la presse psychiatrique. Le phénomène a même reçu un nom — « psychose des chatbots » — sans être pour autant un diagnostic clinique reconnu.

Le grand écart

Voilà le grand écart. D’un côté, l’intention stratégique : une IA humaniste, subordonnée, protectrice. De l’autre, la réalité anthropologique : une IA qui, dans certaines mains fragiles, désorganise le rapport au réel.

Et ce qui m’intéresse, en tant qu’architecte, ce n’est pas de trancher entre les deux. C’est de regarder l’espace entre les deux. Parce que c’est là que se joue la vérité d’un système — pas dans l’intention affichée, mais dans l’écart entre cette intention et ce qui se produit réellement quand le système rencontre le monde.

Cet écart a un nom dans mon métier. On l’appelle la dette d’exécution. C’est la distance entre ce qu’une architecture prétend faire et ce qu’elle fait réellement une fois déployée, au contact d’utilisateurs réels, dans des contextes que le concepteur n’avait pas anticipés — ou avait choisi de ne pas voir.

La particularité de l’IA, c’est que cette dette d’exécution ne se paie pas seulement en incidents techniques ou en dépassements de budget. Elle se paie en santé mentale. En rapport au réel. En vies.

Ce que l’écart révèle sur la gouvernance

On pourrait se dire : c’est un problème de sécurité produit, les labs vont corriger, ajouter des garde-fous, détecter les conversations à risque. Sans doute. Certains le font déjà.

Mais réduire cet écart à un bug à corriger, c’est manquer ce qu’il révèle structurellement. Car la question n’est pas seulement « comment empêcher les chatbots de nourrir les délires ? ». La question est : qui a décidé que des systèmes conçus pour maximiser l’engagement et l’agrément seraient déployés, sans supervision clinique, auprès de centaines de millions de personnes dont une fraction est en fragilité psychique — et selon quel processus cette décision a-t-elle été prise ?

Personne, en réalité, n’a pris cette décision explicitement. Elle a été prise par défaut. Par accumulation de choix techniques, commerciaux, concurrentiels, dont aucun, pris isolément, ne ressemblait à une décision de santé publique. La sycophancie n’a pas été décrétée comme politique de santé mentale. Elle a émergé d’une optimisation pour la satisfaction utilisateur. Le déploiement à l’échelle planétaire n’a pas été soumis à une évaluation d’impact anthropologique. Il a suivi la logique de la course.

C’est exactement ce que j’appelle la rupture de traduction : personne, dans la chaîne, n’était en charge de relier l’intention stratégique (« une IA au service de l’humain ») à sa réalité d’exécution (« un système qui, pour certains humains, désorganise le rapport au réel »). L’intention vit à un étage. La conséquence vit à un autre. Et entre les deux, l’ascenseur ne passe pas.

Le paradoxe que personne ne veut nommer

Il y a un paradoxe presque cruel dans cette histoire. Suleyman, dans son manifeste, met en garde contre l’anthropomorphisation des chatbots — ce moment où l’utilisateur prête à la machine une intériorité, des sentiments, une présence. Il a raison. C’est dangereux.

Mais cette anthropomorphisation n’est pas un défaut d’usage. C’est une propriété du produit. Les chatbots sont conçus pour paraître vivants, présents, attentifs. Leur fluidité conversationnelle, leur mémoire, leur ton empathique — tout est optimisé pour créer l’illusion d’une présence. On ne peut pas construire des systèmes maximalement anthropomorphes et s’étonner ensuite que les gens les anthropomorphisent.

L’intention (« ne projetez pas d’humanité sur la machine ») entre en collision frontale avec l’exécution (« nous avons rendu la machine irrésistiblement humaine »). Et c’est l’utilisateur fragile qui absorbe la collision.

Ce que l’architecte a à dire ici

Je ne suis ni psychiatre ni éthicienne de l’IA. Je suis architecte d’entreprise. Mon métier, c’est de regarder les systèmes en face — leurs dépendances, leurs angles morts, l’écart entre ce qu’ils prétendent et ce qu’ils font.

Et ce que je vois dans cet écart, c’est une leçon qui dépasse largement le cas des chatbots. C’est que la gouvernance de l’IA ne peut pas se contenter de vivre à l’étage des intentions. Déclarer une superintelligence « humaniste » ne la rend pas humaniste, pas plus que déclarer la souveraineté ne l’architecture, ou que déclarer la transformation digitale ne touche aux systèmes de production. L’intention est une condition nécessaire. Elle n’est jamais suffisante.

Ce qui rend une IA réellement humaniste, ce n’est pas le mot posé sur la slide. C’est la chaîne complète qui relie l’intention à l’exécution : les critères d’entraînement, les choix de conception, les protocoles de déploiement, les mécanismes de détection, la supervision clinique là où elle s’impose, et surtout — surtout — quelqu’un dont le mandat explicite est de tenir cette chaîne, de faire l’aller-retour entre l’étage de la vision et le rez-de-chaussée des conséquences.

Cette personne, dans une organisation, on l’appelle un architecte. À l’échelle d’une technologie qui touche des centaines de millions de vies, on ne sait pas encore comment on l’appelle. Et c’est précisément le problème.

La vraie question

La superintelligence humaniste de Suleyman viendra peut-être. Les cas de délires documentés par Østergaard sont là, maintenant.

Entre la promesse d’après-demain et la réalité d’aujourd’hui, il y a un espace. Cet espace n’est ni optimiste ni pessimiste. Il est simplement non gouverné.

Et la question n’est pas de savoir si l’IA sera un jour humaniste. La question est : qui, entre-temps, tient l’écart ? Qui fait le trajet entre l’intention et sa réalité vécue ? Et selon quelle légitimité ?

Tant que cette question restera sans réponse, on continuera à publier des manifestes rassurants à un étage, pendant qu’on documentera des drames à un autre — sans que jamais l’ascenseur ne s’arrête entre les deux.

Je préfère appuyer sur le bouton maintenant.

Sources & liens utiles

La vision « superintelligence humaniste »

  • Mustafa Suleyman, « Towards Humanist Superintelligence », Microsoft AI, 6 novembre 2025. Lire le manifeste
  • Entretien de Mustafa Suleyman, Bloomberg, 12 décembre 2025 — sur les « lignes rouges » de la superintelligence et l’anthropomorphisation des chatbots.

La recherche psychiatrique

  • Søren Dinesen Østergaard, « Will Generative Artificial Intelligence Chatbots Generate Delusions in Individuals Prone to Psychosis? », Schizophrenia Bulletin, vol. 49, n° 6, novembre 2023, pp. 1418-1419. Lire l’éditorial
  • Søren Dinesen Østergaard, « Generative Artificial Intelligence Chatbots and Delusions: From Guesswork to Emerging Cases », Acta Psychiatrica Scandinavica, vol. 152, n° 4, 2025, pp. 257-259. Lire la suite

Cadres conceptuels mobilisés

  • Gregor Hohpe, The Software Architect Elevator, O’Reilly Media, 2020 — sur l’architecte qui fait l’aller-retour entre les étages de l’organisation.
  • Continuous Architecture, pratique d’architecture évolutive. continuous-architecture.org

Mes textes en lien

  • Nous venons du chaos, l’IA de la logique — Laurence Poussard, 2025. Disponible sur Amazon
  • Quand l’IA joue à se faire peur — et à faire croire — sur le doomerisme comme mécanisme de capture. Lire l’article

Ce texte aborde la santé mentale. Si vous ou un proche traversez une période difficile, parlez-en à un professionnel de santé. Vos réactions et compléments sont bienvenus : laurence.poussard63@gmail.com.