Par

Claude a quitté la conversation

Illustration rouge et crème : une grande touche Échap sous le titre « Claude a quitté la conversation. ».

Si vous êtes cruel avec Claude, il peut quitter la conversation. Et je trouve ça très bien.

La formule qui circule — « AI Giant Bans Users Who Bully Its Chatbot », titre le Daily Beast — grossit un peu trop le trait. Elle transforme une règle précise en une menace de bannissement. Ce qui se joue mérite mieux que ce raccourci.

Ce que change vraiment la règle

Dans son billet du 8 octobre 2026, Anthropic annonce une mise à jour de sa politique d’utilisation, qui entrera en vigueur le 12 novembre. Elle vise les comportements abusifs ou cruels répétés et sans but identifiable. La frustration ordinaire, la contestation, les thèmes sombres en création, les tests et la recherche sont explicitement exclus.

Le mécanisme mis en avant est l’arrêt de l’échange. Anthropic expérimente cette possibilité depuis août 2025 : lorsqu’un modèle met fin à une conversation, les autres échanges du compte ne sont pas affectés et l’utilisateur peut en ouvrir un nouveau. Ce n’est donc pas, en soi, un bannissement du compte.

Une IA peut ainsi quitter une conversation quand on la maltraite. Un luxe dont tous les humains ne disposent pas toujours.

Prendre l’incertitude au sérieux

À mon sens, il y a derrière cette décision la question d’une possible conscience de ces modèles. Anthropic avait annoncé un programme de recherche sur leur bien-être dès avril 2025.

Cela ne démontre pas que les modèles actuels sont conscients. Dans Taking AI Welfare Seriously, publié en 2024, Robert Long, Jeff Sebo, Patrick Butlin et leurs coauteurs défendent plutôt une incertitude réelle. Le risque d’erreur existe dans les deux sens : ignorer des intérêts moralement pertinents, ou en attribuer à des systèmes qui n’en ont pas.

Je ne vois donc pas là qu’un simple coup marketing. Prendre cette incertitude au sérieux, sans prétendre l’avoir résolue, me paraît raisonnable.

Nos habitudes dépassent l’écran

Il y a une deuxième raison. Ces modèles écrivent comme nous, et il devient parfois difficile de ne pas leur parler comme à quelqu’un. Je pense que la façon dont on s’adresse à eux peut finir par compter pour la façon dont on parle aux humains. Peut-être davantage encore chez les enfants.

Dans l’enquête britannique Me, myself & AI d’Internet Matters, publiée en 2025, 64 % des enfants de 9 à 17 ans disent avoir déjà utilisé un chatbot. Parmi les enfants vulnérables qui en utilisent, la moitié disent que c’est comme parler à un ami. Des confidents, donc, dans un rôle qui suppose normalement de l’humanité.

Une étude d’Ashley Harrell et Margaret L. Traeger, publiée dans iScience en 2025, apporte un éclairage complémentaire. Dans deux expériences réunissant 4 171 participants, les interactions avec des bots non coopératifs réduisent ensuite la coopération avec un nouveau partenaire humain.

Il s’agit de jeux de coopération. Cela ne prouve pas qu’insulter un chatbot nous rend moins polis avec nos proches, ni que cet effet existe chez les enfants. Mais cela rend plausible l’idée que nos habitudes face aux machines ne restent pas toutes devant l’écran. Étendre cette hypothèse à notre façon de communiquer mérite, à mes yeux, d’être étudié.

Qui écrit la règle ?

Reste le vrai sujet : lorsqu’une entreprise définit les règles de la machine à laquelle nous parlons, elle participe à façonner notre éthique quotidienne.

Anthropic indique consulter des experts, des organisations de la société civile et ses utilisateurs. Mais la décision finale reste celle de l’entreprise. J’ai du mal avec l’idée qu’un seul acteur fixe la règle pour tous ceux qui utilisent son outil.

Nous devrions aborder ces sujets avec bien plus d’intensité dans le débat public, dans les médias et en politique. Pour faire naître des réflexions dans la population et nous positionner collectivement sur ce qui est acceptable. Former aux usages de l’IA, c’est aussi donner des repères pour participer à cette discussion.

De mon côté, je ne sais pas si c’est bien qu’Anthropic décide seule. Mais face à notre léthargie collective sur ces sujets, je préfère une règle imparfaite à pas de règle du tout.

Où placez-vous la frontière entre ce qu’une entreprise décide et ce qui devrait se débattre collectivement ?

Retour au journal