Les systèmes d'IA (intelligence artificielle) peuvent désormais surpasser les médecins des services d'urgence pour diagnostiquer les patients lors du triage, la première évaluation cruciale lorsqu'un patient arrive à l'hôpital. Une recherche publiée dans Science a testé un modèle de langage de grande taille (LLM), la même technologie qui alimente ChatGPT, en utilisant des notes cliniques réelles d'un service d'urgence de Boston. Au triage, lorsque les informations sont les plus rares et que les enjeux sont les plus élevés, l'IA a correctement identifié le diagnostic ou quelque chose de proche dans 67% des cas. Deux médecins de comparaison ont réussi seulement 50% et 55%. Cet écart est extrêmement important quand manquer une condition grave pourrait signifier la mort. L'étude représente un bond significatif par rapport aux recherches antérieures sur l'IA qui se sont concentrées sur le passage d'examens de licence médicale, de tours de passe-passe impressionnants qui ne disaient rien sur l'utilité clinique réelle. Cette fois, les chercheurs ont utilisé de véritables dossiers de patients à travers plusieurs points de décision dans les soins d'urgence, rendant les résultats directement pertinents pour la pratique médicale réelle. L'implication est claire : ces systèmes pourraient aider les médecins à réfléchir à des diagnostics différentiels plus larges, en particulier lorsque la priorité est de ne pas manquer quelque chose de catastrophique. Mais les limites de l'étude sont tout aussi importantes. L'IA a fonctionné entièrement à partir de textes écrits. Elle n'a jamais vu le visage du patient, n'a jamais remarqué de détresse respiratoire ou les signes subtils de septicémie, ne les a jamais examinés physiquement, n'a jamais parlé aux membres de la famille inquiets, et n'a jamais pris la responsabilité de ce qui est arrivé ensuite. Elle offrait une reconnaissance sophistiquée de motifs sur un texte organisé, pas une pratique de médecine d'urgence dans la réalité chaotique d'un service bondé à 3 heures du matin un samedi. Il existe également un fossé entre la production de suggestions diagnostiques précises et l'amélioration réelle des résultats des patients. Une liste plus longue de possibilités pourrait inciter à une réflexion utile, mais elle pourrait également déclencher une cascade de tests inutiles, de traitements excessifs, de fatigue des cliniciens ou de dangereuse surconfiance dans une réponse vraisemblable qui s'avère catastrophiquement fausse. Certains cas de référence utilisés dans des études comme celle-ci avaient peut-être été dans les données d'entraînement de l'IA, bien que cela n'invalide pas les résultats du service d'urgence. Le problème le plus urgent est que la pratique clinique a déjà dépassé la gouvernance. Une enquête du Royal College of Physicians a révélé que 16% des médecins britanniques utilisent des outils d'IA dans leur pratique clinique chaque jour, avec 15% supplémentaires les utilisant chaque semaine. Cela signifie qu'environ un tiers des médecins intègrent ces systèmes dans leur flux de travail avant que les hôpitaux, le NHS (National Health Service) ou les régulateurs n'aient établi des protocoles pour les tester, former le personnel à les utiliser en toute sécurité, détecter quand ils causent des dommages, ou déterminer la responsabilité quand les choses tournent mal. La technologie est déjà intégrée aux soins aux patients, opérant dans un vide réglementaire.
❤️ health
L'IA surpasse les médecins au triage, personne ne sait qui est responsable
Une nouvelle étude dans Science montre que l'IA diagnostique les patients d'urgence plus précisément que les médecins à l'étape critique du triage - 67% contre 50-55%. Cela semble impressionnant jusqu'à ce que vous réalisiez que des milliers de médecins britanniques utilisent déjà ces outils quotidiennement, et personne n'a encore déterminé les protocoles de gouvernance, de responsabilité ou de sécurité. La technologie a dépassé les garde-fous.
Mon avis
Le titre 'L'IA surpasse les médecins' manque complètement de perspective. Il ne s'agit pas de savoir si l'IA peut surpasser les humains dans des tâches diagnostiques spécifiques. Ce train est déjà parti. Le véritable scandale est que nous entrons sans nous en rendre compte dans l'utilisation clinique généralisée de systèmes puissants que personne n'a encore vraiment compris comment gouverner. Dire 'gardez un humain dans la boucle' est un non-sens réconfortant. Quel humain ? Avec quelle formation ? Avec l'autorité de passer outre l'IA sur quels critères ? Quand un outil commence discrètement à échouer, et tous les systèmes complexes échouent finalement, qui le remarque, qui le répare, et qui est légalement responsable ? Ce ne sont pas des questions hypothétiques. Un médecin britannique sur six utilise l'IA quotidiennement en ce moment, dans un système où ces questions restent sans réponse. La voie correcte à suivre n'est pas d'interdire ces outils ou de prétendre qu'ils n'existent pas. C'est d'exiger des essais rigoureux dans le monde réel, de les établir comme un soutien pour une deuxième opinion plutôt que comme des décideurs, de mesurer ce qui compte réellement pour les patients et de construire des structures de gouvernance avant, et non après, une adoption généralisée. Au lieu de cela, nous faisons le contraire : nous déployons d'abord, posons des questions ensuite, et espérons que personne ne se blesse dans l'intervalle.
Et ensuite ?
D'ici six mois, attendez-vous à ce que le premier événement indésirable sérieux lié aux outils de diagnostic IA se produise dans un hôpital britannique, non pas parce que la technologie est fondamentalement défectueuse, mais parce que l'infrastructure de gouvernance n'existe pas pour détecter les défaillances prévisibles. Un patient sera blessé par des tests excessifs déclenchés par un différentiel généré par l'IA, ou par un diagnostic manqué parce qu'un jeune médecin a trop fortement déféré à un algorithme au son rassurant, et soudain la question de responsabilité passera des revues académiques aux tribunaux. Le NHS répondra en précipitant des directives plutôt qu'une vraie gouvernance, probablement une variation de 'les cliniciens restent responsables de toutes les décisions' qui ne résout rien et ne protège personne. Pendant ce temps, les vendeurs d'IA commerciaux continueront de vendre dans ce vide réglementaire, car il n'existe aucun mécanisme d'application pour les arrêter. Certains hôpitaux se retireront discrètement des outils d'IA après le premier procès, tandis que d'autres redoubleront d'efforts, créant une loterie postale de l'adoption de l'IA à travers le pays. Le scénario vraiment intéressant est si les Collèges royaux interviennent avant les régulateurs et établissent leur propre schéma de certification évalué par des pairs pour les outils d'IA clinique. Ce serait désordonné et imparfait, mais cela pourrait effectivement créer une responsabilité plus rapidement qu'en attendant une action gouvernementale. L'alternative est des années de réglementation réactive écrite en réponse à des tragédies évitables, ce qui est généralement la manière dont le Royaume-Uni gère les technologies émergentes en santé.
Ce que l'histoire nous apprend
Ce vide de gouvernance a des parallèles historiques précis avec l'introduction des scanners CT (tomodensitométrie) dans les années 1970. La technologie était révolutionnaire, améliorait véritablement la précision diagnostique, et a été adoptée rapidement à travers les hôpitaux avant que quiconque n'établisse des protocoles pour une utilisation appropriée, des limites d'exposition aux radiations, ou des normes de formation des cliniciens. Le résultat a été des années de surutilisation, d'exposition inutile aux radiations, et la reconnaissance éventuelle que les outils de diagnostic puissants nécessitent une gouvernance systématique, pas seulement de l'enthousiasme clinique. Il a fallu près d'une décennie aux organismes de réglementation pour rattraper la technologie déjà intégrée dans la pratique quotidienne. La situation avec l'IA évolue plus rapidement et comporte potentiellement des enjeux plus élevés, car les scanners CT étaient des outils que les médecins exploitaient avec une responsabilité claire, tandis que les systèmes d'IA font des recommandations autonomes qui peuvent subtilement changer la prise de décision clinique sans lignes claires de responsabilité. Nous répétons la même erreur à une vitesse plus élevée.