ChatGPT Health arrive (et un procès avec) : quand l'IA conseille, c'est toi qui es responsable

Le 25 juillet, OpenAI a ouvert ChatGPT Health — une fonction qui répond à des questions de santé en se branchant sur tes données médicales — à tous les adultes américains, sur toutes les offres. Le détail gênant : l’annonce est tombée le lendemain d’un procès, où un homme reproche à ChatGPT d’avoir suggéré à un proche de ne pas consulter de médecin, avec des conséquences quasi fatales. Tu ne fais pas de santé ? Peu importe. Cette histoire porte la leçon la plus importante de l’année pour qui conseille en solo.

Ce qui s’est passé

OpenAI indique que 300 millions de questions liées à la santé transitent chaque semaine par ChatGPT — d’où la décision d’en faire une fonction dédiée, connectée aux dossiers médicaux et à des services comme Apple Health, avec tableau de bord (analyses, médicaments, sommeil) et réponses ancrées sur les données de l’utilisateur.

Mais le calendrier place OpenAI dans une position inconfortable : élargir une fonction qui rapproche le modèle de vraies décisions médicales, la semaine même où l’entreprise est poursuivie pour exactement ce type de décision. Le pari d’OpenAI est que des réponses mieux ancrées dans les données réduisent le risque. C’est un pari — que des régulateurs et des avocats vont maintenant tester en public.

Ce que ça veut dire

Oublie la santé une seconde et regarde le principe : quand l’IA donne un conseil, la responsabilité ne se déplace pas. Le modèle n’a ni licence professionnelle, ni assurance responsabilité civile, ni ordre qui le sanctionne. Toi, tu as tout ça. Et ton client, si un conseil tourne mal, ne poursuivra jamais OpenAI — il te poursuivra toi.

C’est le prolongement direct de ce qu’on répète : l’IA ne remplace pas ton métier, elle le redéfinit. Elle peut rédiger, calculer, proposer. Mais la partie qui a de la valeur — et qui engage — c’est le jugement : décider si le conseil est bon, adapté à ce client, prudent. Ça, ça reste ton métier, et ta responsabilité pleine et entière.

Ce que tu fais lundi matin

Trois réflexes.

Délègue la tâche, jamais le jugement. Laisse l’IA préparer un brouillon, un calcul, une première analyse. Mais tout ce qui sort sous ton nom et a des conséquences pour quelqu’un passe par ta relecture et ta validation. L’IA rédige ; c’est toi qui signes.

Trace une ligne « sensible ». Fais la liste des sujets où une erreur coûte cher chez toi (santé, droit, argent, sécurité, fiscalité). Sur ces sujets, l’output IA n’est jamais un livrable direct — c’est une matière première que tu contrôles, complètes, et au besoin refuses. C’est aussi ce qui construit ta crédibilité sur la durée, comme on le voyait avec les détecteurs d’IA : la confiance se gagne sur la preuve, pas sur l’outil.

Dis à ton client comment tu bosses. « J’utilise l’IA pour accélérer, et je valide tout personnellement. » C’est honnête, ça rassure, et ça pose noir sur blanc où se trouve la responsabilité : chez toi, pas chez la machine.

Le piège à éviter

Le piège : prendre la fluidité de l’IA pour de la fiabilité. Un modèle répond avec le même aplomb qu’il ait raison ou tort — le procès d’OpenAI en est l’illustration brutale. Plus la réponse est nette et confiante, plus il est tentant de la relayer sans la vérifier. Ne confonds jamais « bien formulé » et « juste ».

L’autre piège : te cacher derrière l’outil. « C’est l’IA qui l’a dit » n’est ni une excuse, ni une défense — juridique ou morale. Si tu le transmets à un client, tu l’as fait tien. Assumer ce filtre humain n’est pas une contrainte pénible : c’est précisément ce qui te rend précieux et difficile à remplacer, le cœur de ce qui te permet de tenir en solo dans la durée.