Quand votre IA se trompe, qui paie la facture ?

Un concessionnaire BMW de Toronto a découvert à ses dépens, mi-juin, ce que coûte une IA mal surveillée. Son agent conversationnel « Quinn » a proposé à un client 27 162,79 $ pour le rachat de son véhicule, au lieu des quelque 20 000 $ qu'il valait réellement. Plus de 7 000 dollars d'écart, sur une simple confusion entre le solde d'un prêt et une offre de reprise. Après la médiatisation de l'affaire par Radio-Canada, le concessionnaire a fini par honorer le prix annoncé par sa machine.

Cette histoire n'est pas un fait divers exotique. C'est le résumé d'un risque que la majorité des dirigeants ignorent en branchant un chatbot ou un agent IA face à leurs clients : quand l'IA se trompe, ce n'est pas elle qui paie. C'est vous.

Air Canada, BMW : la jurisprudence colle la facture à l'entreprise

Le dossier de référence reste l'affaire Moffatt c. Air Canada, tranchée début 2024 par le tribunal civil canadien. Le chatbot de la compagnie avait inventé une politique de remboursement pour deuil qui n'existait pas. Le client s'est appuyé dessus, puis s'est retrouvé sans remboursement. Air Canada a alors sorti un argument resté célèbre : le chatbot serait une « entité juridique distincte », responsable de ses propres réponses.

Le juge Christopher Rivers a balayé la défense en une phrase : « Il devrait être évident pour Air Canada qu'elle est responsable de toute l'information sur son site web. Peu importe que l'information provienne d'une page statique ou d'un chatbot. » Verdict : 812 $ versés au client, dont 652 $ de dommages. Le montant est dérisoire. Le principe, lui, ne l'est pas.

Le cas BMW de juin 2026 l'a confirmé côté commercial, sans même passer par un tribunal : face à la pression médiatique et au risque juridique, l'enseigne a préféré payer plutôt que de plaider que « c'était le bot ». Les deux affaires racontent la même chose. Déléguer une réponse à une IA ne dilue pas la responsabilité de celui qui la déploie.

Erreur d'IA : qui est responsable selon le droit français ?

En France, aucune décision n'a encore été rendue sur une hallucination de chatbot. Mais l'absence de jurisprudence ne veut pas dire absence de risque : les textes existants suffisent largement à engager une PME, comme le rappelle une analyse du Journal du Net.

Trois régimes se cumulent :

• Responsabilité contractuelle (article 1231-1 du Code civil) : si votre IA promet un prix, une remise, une fonctionnalité ou un délai que vous ne tenez pas, le client peut exiger l'exécution ou des dommages. C'est exactement le schéma Air Canada.
• Responsabilité délictuelle (article 1240) : une négligence dans la conception, le déploiement ou la maintenance de l'outil qui cause un préjudice à un tiers engage votre faute.
• RGPD : un chatbot qui aspire ou recrache des données personnelles à tort expose à une sanction de la CNIL, jusqu'à 4 % du chiffre d'affaires mondial ou 20 millions d'euros.

S'ajoute désormais l'AI Act, dont les obligations de transparence entrent en application le 2 août 2026 : un utilisateur doit savoir qu'il parle à une machine. Le manquement se chiffre jusqu'à 15 M€ ou 3 % du CA. Et la directive européenne révisée sur la responsabilité du fait des produits range explicitement les logiciels et systèmes d'IA parmi les « produits » susceptibles d'être jugés défectueux. Nous avons détaillé l'obligation d'étiquetage dans notre dossier sur l'article 50 de l'AI Act.

Les hallucinations ne s'arrêtent pas au service client

Le chatbot est la partie visible. Le risque le plus sournois se joue en interne, quand un collaborateur signe un document produit par une IA sans le relire. 2026 a transformé cette négligence en sport judiciaire.

Le décompte est édifiant. Aux États-Unis, les sanctions pour citations inventées par l'IA ont dépassé 145 000 $ sur le seul premier trimestre 2026. Un cabinet de l'Oregon a écopé de 110 000 $ — la plus lourde amende de l'histoire judiciaire américaine sur ce motif — pour 23 références fabriquées et 8 fausses citations. Dans le Nebraska, un avocat a vu sa licence suspendue pour une durée indéterminée après que 20 de ses citations se sont révélées purement hallucinées. Même des cabinets dotés de chartes IA complètes, comme Sullivan & Cromwell, ont dû présenter des excuses publiques.

La leçon vaut pour toutes les professions, pas seulement les juristes. Un devis chiffré par une IA, une clause de contrat générée à la volée, un conseil fiscal recraché par un assistant : celui qui signe assume l'exactitude. La « distance » entre vous et l'outil ne réduit jamais la responsabilité.

Combien coûte vraiment une erreur d'IA pour une PME

Le chiffre affiché — 812 $ pour Air Canada, 7 000 $ pour BMW — ne raconte qu'une partie de l'histoire. La facture réelle s'empile sur plusieurs lignes.

Il y a d'abord le coût direct : honorer le prix erroné, rembourser, indemniser. Ensuite les frais juridiques, souvent supérieurs au litige lui-même — dans l'affaire du Nebraska, le client s'est retrouvé avec 52 000 $ de frais de la partie adverse. Puis le coût réputationnel : Air Canada et BMW ont surtout payé en image, leur nom associé pour des mois à « l'entreprise qui blâme son bot ». Enfin, le risque réglementaire empilé (CNIL, AI Act) qui, lui, se compte en pourcentage du chiffre d'affaires.

Pour une TPE, un seul de ces étages peut suffire à effacer la marge d'un trimestre. L'IA fait gagner du temps ; une erreur non maîtrisée peut le reprendre avec intérêts.

Comment déployer l'IA sans signer un chèque en blanc

Renoncer au chatbot n'a aucun sens : bien cadré, il reste l'un des meilleurs leviers de productivité d'une PME. Le sujet n'est pas d'éviter l'IA, mais de l'encadrer. Quatre garde-fous tiennent la route.

Garder un humain dans la boucle

C'est la mesure la plus efficace, et la moins chère. Au lieu de laisser l'IA répondre seule, on la déploie d'abord en assistance des collaborateurs : elle propose, l'humain valide avant envoi. Carrefour a procédé ainsi avec son assistant Hopla, testé en bêta restreinte avant toute ouverture au public. Sur les réponses sensibles (prix, engagement contractuel, conseil), un workflow d'automatisation peut router la réponse de l'IA vers une validation humaine avant transmission — un scénario que l'on monte en quelques heures avec un outil comme Make ou son équivalent. La règle d'or : plus l'enjeu est élevé, moins l'IA décide seule.

Limiter le périmètre du bot

Un chatbot qui répond à tout est un chatbot qui invente. Cantonnez-le à un domaine fermé (horaires, suivi de commande, FAQ documentée) et faites-le répondre « je transmets à un conseiller » dès qu'il sort de son cadre. Un bon red teaming — soumettre le bot à des questions pièges avant la mise en production — révèle les zones où il déraille.

Quelles clauses exiger de votre fournisseur d'IA ?

Le contrat avec l'éditeur doit préciser qui répond de quoi : niveau de service, traçabilité des échanges, hébergement des données, et surtout une clause de responsabilité réaliste. Attention au réflexe inverse : une mention « l'IA peut produire des erreurs, l'entreprise décline toute responsabilité » affichée au client ne vous exonère pas. Face à un consommateur, ce type de clause est très largement réputé non écrit. Nous détaillons les points à négocier dans notre guide sur les clauses à imposer à un fournisseur SaaS IA.

Faut-il une assurance dédiée aux erreurs d'IA ?

La question monte vite chez les assureurs. Beaucoup de contrats de responsabilité civile professionnelle classiques n'ont pas été pensés pour un dommage causé par une IA autonome, et certains commencent à exclure explicitement ce risque. Avant de déployer un agent client, vérifiez noir sur blanc que votre RC pro couvre les préjudices liés à une réponse automatisée — et faites ajouter un avenant si ce n'est pas le cas. C'est un point que nous abordons aussi dans notre guide sur la charte IA et la cyberassurance.

Pour industrialiser cette validation humaine sans noyer vos équipes, un orchestrateur d'automatisation reste l'allié le plus simple à mettre en place.

Faut-il renoncer au chatbot IA en 2026 ? Non, mais…

Le verdict est net. Toute PME qui met une IA en contact avec ses clients — ou qui laisse une IA produire des documents engageants — assume la responsabilité de ce que dit la machine. Air Canada, BMW et la vague de sanctions de 2026 ne sont pas des cas isolés : ce sont les premiers exemples d'une règle qui s'installe.

Qui est concerné ? Tout le monde, du commerçant avec un bot WhatsApp à l'agence qui rédige ses devis avec ChatGPT. Qui peut souffler ? Personne, mais les entreprises qui gardent un humain sur les décisions à enjeu, limitent le périmètre de leurs bots et vérifient leur couverture d'assurance dorment tranquilles. L'IA n'a pas créé un nouveau droit. Elle a juste rendu beaucoup plus rapide la production d'erreurs que vous signez quand même.