Elle tenait son journal dans Claude, la police est venue l'arrêter

Une Américaine de 30 ans a été arrêtée en Floride après qu'Anthropic a transmis à la police des extraits de ses conversations avec Claude, où elle décrivait son intention de tirer sur le bureau du shérif local. C'est au moins le troisième signalement de ce type par un fournisseur d'IA depuis août. Pour tous ceux qui confient des brouillons, des chiffres ou des états d'âme à un chatbot — c'est-à-dire à peu près tout le monde dans une PME en 2026 — l'affaire mérite mieux qu'un haussement d'épaules.

Un journal intime nommé Claude : les faits

Le 26 septembre, Carli Michelle Heller, 30 ans, habitante de Bonita Springs (comté de Lee, Floride), écrit dans Claude qu'elle compte « shoot up » — ouvrir le feu sur — le bureau du shérif. Le lendemain, elle ajoute s'être procuré une arme et parle de « dernière chance ». Selon le récit reconstitué par Tom's Hardware, les systèmes automatiques d'Anthropic repèrent les messages et les escaladent vers une équipe de modération humaine, qui juge la menace crédible et prévient les forces de l'ordre.

La police identifie Heller grâce aux informations fournies par l'entreprise et l'interpelle à son domicile, sans incident. Elle est poursuivie pour menace écrite de mort ou de violences — un crime de deuxième catégorie en Floride (statut 836.10), passible de quinze ans de prison. Audience fixée en novembre. Détail qui résume toute l'affaire, rapporté par Yahoo News : d'après le shérif Carmine Marceno, l'intéressée a expliqué qu'elle utilisait Claude comme un journal intime.

Personne ne plaidera qu'une menace armée contre un commissariat doit rester lettre morte. La question est ailleurs : combien d'utilisateurs savent qu'un humain peut lire ce qu'ils écrivent à une IA, puis décrocher son téléphone pour appeler la police ?

Comment Anthropic surveille les conversations Claude

Le mécanisme décrit par la presse américaine n'a rien d'improvisé. Des classifieurs scannent les échanges à la recherche de formulations menaçantes. Au-delà d'un seuil de gravité, la conversation part en revue humaine. L'équipe décide ensuite de signaler, ou pas. En juillet déjà, un porte-parole d'Anthropic décrivait au Wall Street Journal un dispositif de suivi dans la durée :

« Nous suivons les comportements préoccupants dans le temps via un processus de "personne d'intérêt", qui nous permet de détecter tôt les schémas d'escalade. »

Une enquête de The American Prospect, publiée le 9 septembre, parlait déjà d'un système de surveillance « prédictive » en construction chez Anthropic. L'entreprise, elle, assume une posture de gendarme : son rapport de threat intelligence de septembre détaille comment elle détecte et interrompt les usages malveillants de Claude, des cyberattaques aux opérations d'influence.

Ce que dit la politique de confidentialité du 10 septembre

La version de la politique de confidentialité d'Anthropic en vigueur depuis le 10 septembre autorise la divulgation aux autorités dès lors que l'entreprise estime de bonne foi qu'elle est « raisonnablement nécessaire pour prévenir un préjudice grave à une personne ou à des biens ». S'y ajoute une exception d'urgence : en cas de danger de mort ou de blessure grave imminente, pas besoin d'attendre une réquisition judiciaire. Le signalement spontané est donc prévu noir sur blanc. Qui a lu ce paragraphe avant de taper ?

Trois cas depuis août — dont 54 jours de détention pour rien

L'affaire de Floride n'est pas isolée. Deux précédents ont été documentés depuis la fin de l'été :

• Pakistan, septembre. Anthropic signale au FBI les conversations d'un adolescent de 17 ans évoquant un projet d'empoisonnement. Il est arrêté, puis libéré sous caution.
• Brésil. OpenAI transmet des messages au FBI et aux autorités brésiliennes. L'homme signalé passe 54 jours en détention… avant d'être relâché sans la moindre inculpation.

Le cas brésilien est le vrai signal d'alarme. Un classifieur n'a pas de notion fiable du second degré, du jeu de rôle ou de la fiction, et une équipe de modération qui arbitre dans le doute penchera vers le signalement — sa responsabilité juridique la pousse dans ce sens. Quand le système se trompe, c'est l'utilisateur qui paie l'erreur, et la facture peut se compter en semaines de cellule. Aucun des trois fournisseurs concernés n'a publié de chiffres sur son taux de faux positifs.

Vos données d'entreprise dans Claude : qui peut les lire ?

Pour un dirigeant ou un responsable IT, la leçon dépasse largement le fait divers. Si une équipe humaine peut lire une menace escaladée, elle lit mécaniquement tout ce qui l'entoure dans la conversation : noms de clients, chiffres, projets, griefs contre un collègue. Il ne s'agit pas de lecture systématique — les humains n'interviennent que sur les échanges signalés par les classifieurs — mais le fantasme de la machine seule face à vous ne tient plus. C'est le prolongement logique de ce qu'on documentait déjà sur l'usage de vos prompts par les fournisseurs d'IA : vos conversations sont une matière que l'éditeur traite, à des fins d'entraînement comme de sécurité.

Compte perso ou compte Enterprise : pas les mêmes règles

Les offres commerciales (Team, Enterprise, API) s'accompagnent de contrats plus stricts : pas d'entraînement sur vos données par défaut, rétention encadrée, engagements de confidentialité. Mais la politique d'usage d'Anthropic s'applique à tous les plans, et l'entreprise n'a pas précisé publiquement si son pipeline de signalement épargne les comptes professionnels. Le vrai trou dans la raquette reste le salarié qui travaille sur un compte perso — ce shadow AI déjà responsable de 43 % des fuites de données selon IBM.

Et en France ? RGPD, CNIL et signalement à la police

Les utilisateurs français passent par les mêmes classifieurs que les Américains. Le RGPD n'interdit pas ce type de divulgation : la sauvegarde des intérêts vitaux d'une personne ou l'intérêt légitime peuvent servir de base légale. En revanche, la transmission directe d'extraits de conversations d'un résident européen à une police étrangère, sans réquisition, poserait de sérieuses questions de proportionnalité et de transfert hors UE. Aucun cas français n'est documenté à ce jour, et la CNIL ne s'est pas prononcée sur le signalement spontané par un fournisseur d'IA — elle a en revanche déjà cadré la question voisine de la mémoire des agents IA au regard du RGPD. Le sujet finira devant elle : c'est une question de mois, pas d'années.

Côté employeur, un angle mort supplémentaire : si un salarié est signalé pour des propos tenus sur son compte perso, l'entreprise peut découvrir a posteriori que des documents internes figuraient dans la conversation transmise aux autorités. Personne ne l'aura prévenue.

Trois réflexes à prendre cette semaine

• Cartographier les usages. Qui, dans l'équipe, utilise un chatbot sur compte personnel pour des tâches pro ? C'est la première question, et la réponse honnête est rarement « personne ».
• Basculer les usages métier vers des comptes commerciaux. Team, Enterprise ou API : garanties contractuelles, pas d'entraînement par défaut, et un interlocuteur juridique si problème.
• Mettre à jour la charte IA. Une ligne explicite — « vos conversations peuvent être lues par des humains et transmises aux autorités » — vaut mieux que dix pages de principes. Notre méthode pour rédiger une charte IA de PME s'y prête directement.

Notre lecture : sur ce cas précis, Anthropic a probablement bien fait — une menace armée datée, avec arme achetée, ne se classe pas sans suite. Mais le précédent est posé, et il est double. L'IA à qui l'on se confie est aussi un témoin qui parle à la police ; et ce témoin se trompe parfois, comme les 54 jours de détention injustifiée au Brésil le prouvent. Ce sujet concerne toute organisation dont les équipes écrivent dans un chatbot ce qu'elles ne mettraient pas dans un e-mail. Il ne concerne guère ceux qui ont déjà verrouillé comptes Enterprise et charte d'usage — eux peuvent se contenter de relire leurs clauses. Les autres ont du travail avant vendredi.