Los sistemas de IA (inteligencia artificial) ahora pueden superar a los médicos de los servicios de urgencias al diagnosticar a los pacientes durante el triaje, la evaluación inicial crucial cuando un paciente llega al hospital. Una investigación publicada en Science probó un modelo de lenguaje grande (LLM), la misma tecnología que impulsa a ChatGPT, utilizando notas clínicas reales de una sala de urgencias de Boston. En el triaje, cuando la información es más escasa y las apuestas son más altas, la IA identificó correctamente el diagnóstico o algo relacionado en el 67% de los casos. Dos médicos de comparación lograron solo un 50% y un 55%. Esa brecha importa enormemente cuando faltar a una condición seria podría significar muerte. El estudio representa un salto significativo respecto a investigaciones anteriores de IA que se centraban en aprobar exámenes de licencia médica, trucos de fiesta impresionantes que no decían nada sobre la utilidad clínica en el mundo real. Esta vez, los investigadores utilizaron registros de pacientes genuinos a través de múltiples puntos de decisión en atención de emergencia, haciendo que los hallazgos sean directamente relevantes para la práctica médica real. La implicación es clara: estos sistemas podrían ayudar a los médicos a pensar en diagnósticos diferenciales más amplios, especialmente cuando la prioridad es no pasar por alto algo catastrófico. Pero las limitaciones del estudio son igualmente importantes. La IA trabajó completamente a partir de texto escrito. Nunca vio la cara del paciente, nunca notó la dificultad respiratoria o los signos sutiles de sepsis, nunca los examinó físicamente, nunca habló con familiares preocupados y nunca asumió la responsabilidad de lo que pasaría después. Estaba ofreciendo un reconocimiento sofisticado de patrones en texto seleccionado, no practicando medicina de emergencia en la caótica realidad de un departamento concurrido a las 3am en un sábado. También hay un abismo entre producir sugerencias de diagnóstico precisas y realmente mejorar los resultados del paciente. Una lista más larga de posibilidades podría incitar a un pensamiento útil, pero igualmente podría desencadenar una cascada de pruebas innecesarias, sobretratamiento, fatiga del clínico o una peligrosa confianza excesiva en una respuesta que suena plausible pero resulta ser catastróficamente incorrecta. Algunos casos de referencia utilizados en estudios como este pueden haber estado en los datos de entrenamiento de la IA, aunque esto no invalida los hallazgos del servicio de urgencias. El problema más urgente es que la práctica clínica ya ha avanzado más allá de la gobernanza. Una encuesta del Royal College of Physicians encontró que el 16% de los médicos del Reino Unido usan herramientas de IA en la práctica clínica todos los días, con otro 15% usándolas semanalmente. Eso significa que aproximadamente un tercio de los médicos están integrando estos sistemas en su flujo de trabajo antes de que los hospitales, el NHS (Servicio Nacional de Salud), o los reguladores hayan establecido protocolos para probarlos, capacitar al personal para usarlos de manera segura, detectar cuando causan daño o determinar la responsabilidad cuando algo sale mal. La tecnología ya está incrustada en la atención al paciente, operando en un vacío regulatorio.
❤️ health
La IA supera a los médicos en el triaje, nadie sabe quién es responsable
Un nuevo estudio en Science muestra que la IA diagnostica a los pacientes de emergencia con mayor precisión que los médicos en la etapa crítica de triaje - 67% frente al 50-55%. Parece impresionante hasta que te das cuenta de que miles de médicos en el Reino Unido ya están utilizando estas herramientas a diario, y nadie ha resuelto la gobernanza, la responsabilidad o los protocolos de seguridad. La tecnología ha superado las barreras de seguridad.
Mi opinion
El titular 'La IA supera a los médicos' pierde totalmente el foco. Esto no se trata de si la IA puede superar a los humanos en tareas de diagnóstico específicas. Ese barco ya zarpó. El verdadero escándalo es que estamos avanzando de manera inconsciente hacia el uso clínico generalizado de sistemas potentes que nadie ha logrado gobernar adecuadamente. Decir 'mantener un humano en el proceso' es un consuelo sin sentido. ¿Qué humano? ¿Con qué entrenamiento? ¿Con autoridad para anular la IA en base a qué criterios? Cuando una herramienta empieza a fallar silenciosamente, y todos los sistemas complejos eventualmente fallan, ¿quién lo detecta, quién lo arregla y quién es legalmente responsable? Estas no son preguntas hipotéticas. Uno de cada seis médicos del Reino Unido está utilizando la IA diariamente en este momento, en un sistema donde esas preguntas permanecen sin respuesta. El camino correcto a seguir no es prohibir estas herramientas o fingir que no existen. Es exigir rigurosos ensayos en el mundo real, establecerlos como soporte de segunda opinión en lugar de tomadores de decisiones, medir lo que realmente importa a los pacientes y construir estructuras de gobernanza antes, no después, de su adopción generalizada. En cambio, estamos haciendo lo contrario: desplegando primero, haciendo preguntas después y esperando que nadie salga herido en el proceso.
Que pasa despues
Dentro de seis meses, espere el primer evento adverso serio relacionado con herramientas de diagnóstico de IA en un hospital del Reino Unido, no porque la tecnología esté fundamentalmente rota, sino porque la infraestructura de gobernanza no existe para detectar fallas predecibles. Un paciente será perjudicado por pruebas excesivas desencadenadas por un diferencial generado por IA, o por un diagnóstico fallido porque un médico joven confió demasiado en un algoritmo que suena confiable, y de repente la cuestión de la responsabilidad pasará de las revistas académicas a los tribunales. El NHS responderá apresurándose a emitir directrices en lugar de una verdadera gobernanza, probablemente alguna variación de 'los clínicos siguen siendo responsables de todas las decisiones' que no resuelve nada y no protege a nadie. Mientras tanto, los vendedores comerciales de IA seguirán vendiendo en este vacío regulatorio, porque no existe un mecanismo de aplicación para detenerlos. Algunos hospitales se retirarán silenciosamente de las herramientas de IA después de la primera demanda, mientras que otros profundizarán, creando una lotería de códigos postales de adopción de IA en todo el país. El escenario realmente interesante es si los colegios reales intervienen antes que los reguladores y establecen su propio esquema de certificación revisado por pares para herramientas de IA clínica. Sería desordenado e imperfecto, pero podría realmente crear responsabilidad más rápido que esperar a la acción del gobierno. La alternativa son años de regulación reactiva escrita en respuesta a tragedias prevenibles, que es típicamente cómo el Reino Unido maneja la tecnología emergente en la atención médica.
Lo que nos dice la historia
Esta brecha de gobernanza tiene paralelismos históricos precisos con la introducción de los escáneres de TC (tomografía computarizada) en la década de 1970. La tecnología fue revolucionaria, mejoró genuinamente la precisión del diagnóstico y se adoptó rápidamente en los hospitales antes de que alguien estableciera protocolos para su uso apropiado, límites de exposición a la radiación o estándares de capacitación clínica. El resultado fueron años de uso excesivo, exposición innecesaria a la radiación y el eventual reconocimiento de que las herramientas de diagnóstico poderosas requieren una gobernanza sistemática, no solo entusiasmo clínico. A los organismos reguladores les llevó casi una década ponerse al día con la tecnología que ya estaba integrada en la práctica diaria. La situación de la IA se está moviendo más rápido y potencialmente lleva mayores apuestas, porque los escáneres de TC eran herramientas que los médicos operaban con responsabilidad clara, mientras que los sistemas de IA hacen recomendaciones autónomas que pueden desplazar sutilmente la toma de decisiones clínicas sin líneas claras de responsabilidad. Estamos repitiendo el mismo error a mayor velocidad.