Uso de la IA en medicina clínica

La medicina se basa en la confianza entre pacientes y médicos, clínicos y evidencia, y profesionales y colegas. Ahora un nuevo grupo ha entrado en la sala de examen: la IA. Los algoritmos diagnósticos pueden analizar miles de puntos de datos en segundos, comparar síntomas con millones de historiales clínicos y aportar recomendaciones de tratamiento que ninguna mente humana podría generar por sí misma. Sin embargo, a pesar de toda su potencia computacional, la IA en medicina clínica se enfrenta a un obstáculo que ninguna actualización de software puede solucionar fácilmente: la confianza de los médicos a los que se supone que debe ayudar.

Una encuesta de la Asociación Médica Americana de 2024 a casi 1200 médicos encontró que, mientras dos tercios informaron usar IA sanitaria, casi la mitad consideró que el aumento de la supervisión era la acción regulatoria más importante necesaria antes de confiar realmente en estas herramientas. Los médicos citaron preocupaciones no resueltas sobre recomendaciones erróneas, exposición a responsabilidades, privacidad de datos y mala integración con los sistemas existentes. La brecha entre una adopción generalizada y una confianza profesional genuina es una de las líneas de falla más importantes en la sanidad moderna, sugiere el informe.

Una razón fundamental del escepticismo de los médicos respecto a la IA es que muchos sistemas diagnósticos, especialmente los modelos de aprendizaje profundo, son incapaces de explicar cómo llegan a sus conclusiones. Un radiólogo con años de experiencia puede describir por qué un patrón en una mamografía es preocupante. Un sistema de IA que marca la misma imagen como de alto riesgo, en cambio, puede proporcionar solo una puntuación de probabilidad sin explicar la razón detrás de ella.

Cuando un médico hace un diagnóstico, puede explicarle a un colega, a un paciente o a un colegio médico. Cuando la IA realiza un diagnóstico, el médico que actúa en base a él asume plena responsabilidad legal y ética, pero sin una forma de evaluar la solidez del razonamiento subyacente. En un informe publicado en octubre de 2025, investigadores del Laboratorio de Desarrollo y Evaluación de IA de Radiología de Stanford describieron esta dinámica directamente: dado que los médicos no pueden ver cómo un sistema de IA de caja negra llega a sus conclusiones ni entender los datos sobre los que fue entrenado, los médicos deben juzgar si las predicciones de IA pueden ser confiables.

Estrechamente relacionada con el problema de la caja negra está la cuestión no resuelta de la responsabilidad. Si un médico sigue una recomendación de IA que puede causar daño al paciente, la ley actual pone la responsabilidad directamente en el médico.

Jesse Ehrenfeld, expresidente de la Asociación Médica Americana, en un artículo de 2025 en npj Health Systems,¹ señala que la IA es demasiado poderosa y revolucionaria para dejar sin respuesta las preguntas sobre responsabilidad y gobernanza.

Este vacío de responsabilidad crea un profundo desincentivo para que los médicos dependan de la IA, incluso cuando en privado puedan creer que es correcta. Actuar según una recomendación de IA es una transferencia de riesgos unidireccional: si todo va bien, el médico recibe crédito por su buen juicio clínico; si algo sale mal, ni la IA ni sus creadores comparten las consecuencias. El interés racional por sí solo, por no hablar de la defensa del paciente, lleva a muchos médicos a mantener sus propias conclusiones diagnósticas como principales, utilizando los resultados de la IA como un control secundario. Hasta que los reguladores desarrollen marcos claros para la responsabilidad compartida entre médicos, hospitales y desarrolladores de IA, esta dinámica persistirá como una de las barreras estructurales más poderosas para la adopción de la IA clínica, sostienen los investigadores.

Un estudio realizado por investigadores del Centro de Investigación en Informática Biomédica de Stanford,² encontró que las herramientas diagnósticas de grandes modelos de lenguaje funcionaban mejor que los médicos en pruebas cuando ambos presentaban síntomas al paciente. Curiosamente, las evaluaciones fueron menos correctas cuando se pidió a los médicos que usaran las recomendaciones de IA para hacer sus diagnósticos. Aunque la IA funcionó bien, los médicos no confiaron plenamente en los resultados, dijo Ethan Goh, MD, autor del estudio y director ejecutivo de Stanford ARISE (IA Research and Science Evaluation).

La confianza también es producto de la familiaridad, y la mayoría de los médicos en ejercicio hoy en día se forman en un mundo donde la IA no tiene ningún papel en la toma de decisiones clínicas. La educación médica está empezando a responder. La Facultad de Medicina de Harvard ha hecho obligatoria la formación en IA para los estudiantes en su especialidad de Ciencias y Tecnología de la Salud Harvard-MIT, requiriendo un curso introductorio de 1 mes sobre IA en la atención sanitaria. La Facultad de Medicina de la Universidad de Stanford ha establecido un director dedicado de educación médica en IA y ha integrado la formación en IA en todo su plan de estudios.

Este cambio puede tardar una generación en impregnar plenamente la profesión. La mayoría de los médicos que actualmente ejercen no recibieron formación formal sobre cómo evaluar, calibrar o cuestionar adecuadamente los resultados de la IA. Sin esa base, el trabajo necesario para integrar las recomendaciones de IA en los flujos de trabajo clínicos es más de lo que muchos médicos están dispuestos a asumir durante un día ya de por sí exigente, según quienes estudian el tema.

La conversación sobre la IA en la medicina se ha centrado principalmente en los médicos: su escepticismo, su exposición a la responsabilidad y sus carencias de formación. Pero los pacientes están desarrollando su propia relación compleja con la IA en la atención sanitaria que puede moldear lo que ocurre dentro de la sala de exploración.

Considera lo que hacen los pacientes fuera de la sala de examen. Ahora la gente recurre a la IA para hacer preguntas de salud más de 40 millones de veces al día, incluso entre quienes reportan dudas sobre la precisión de la IA. Roxana Daneshjou, doctora, dermatóloga e investigadora en IA en la Universidad de Stanford, ve este patrón menos como un respaldo de la IA que como un síntoma de un sistema sanitario bajo presión. Los pacientes no tienen acceso a la información y atención que necesitan, y por eso recurren a sistemas que pueden o no ser los más correctos, precisos y fiables para intentar recibir ayuda.

Así que el aumento del uso de herramientas de IA por parte de los pacientes probablemente no sea tanto un voto de confianza en la tecnología como una solución alternativa a un sistema que deja demasiadas preguntas sin respuesta. El comportamiento, señaló Daneshjou, no necesariamente coincide con la confianza declarada: los pacientes son escépticos respecto a los consejos de la IA mientras los consultan en gran número. Una señal de inquietud de los pacientes son los desafíos legales sobre los escribas de IA. Varios sistemas hospitalarios han enfrentado demandas de pacientes que afirman no haber sido informados claramente de que IA estaba registrando y transcribiendo sus visitas. Daneshjou, que toma sus propias notas en lugar de usar un escriba IA, afirma que las preocupaciones sobre la transparencia son una de las razones por las que ha dudado en adoptar la tecnología. Y dado que los pacientes a veces comparten información en una sala de exploración que no compartirían en ningún otro lugar, dice, las implicaciones de captar divulgaciones tan sensibles aumentan su inquietud.

En respuesta a estas preocupaciones, los principales centros médicos académicos han creado juntas de gobernanza de la IA específicamente para supervisar cómo se integra la IA en la atención clínica. Sin embargo, tanto pacientes como médicos están, en muchos casos, saltándose esas estructuras por completo: los pacientes consultan directamente la IA para obtener orientación médica, y los médicos incorporan herramientas de IA en sus flujos de trabajo sin una revisión institucional formal. El aparato de gobernanza y la realidad vivida de la IA en la medicina funcionan, en este momento, en caminos paralelos que no siempre se cruzan.

Una respuesta a este dilema de transparencia, dice Fawad Khan, MD, neurólogo en el Ochsner Medical Center de Nueva Orleans que estudia el uso de la IA en entornos clínicos, es que "los médicos deben aprender a comunicar el uso de herramientas de IA a los pacientes."

Varias vías a seguir están ganando terreno. La IA explicable, sistemas diseñados para mostrar el razonamiento detrás de sus conclusiones, representa una prioridad técnica reconocida. Los organismos reguladores, incluida la FDA, han pasado de reconocer el problema a desarrollar marcos concretos.

Además, la propia profesión médica está empezando a articular estándares para la rendición de cuentas de la IA. Organizaciones como la Asociación Médica Americana han publicado directrices que piden transparencia en el desarrollo de la IA, una supervisión humana significativa en el despliegue clínico y una clara delimitación de la responsabilidad. Aún no son estándares vinculantes, pero señalan una profesión en proceso de definir cómo es una colaboración responsable con IA en sus propios términos.

El déficit de confianza entre los médicos y las herramientas de diagnóstico de IA no es irracional, ni es una simple cuestión de resistencia generacional al cambio. Refleja preocupaciones legítimas sobre la transparencia, la rendición de cuentas y las condiciones bajo las cuales el juicio profesional puede delegarse de forma segura a un sistema que piensa de formas que ningún médico puede ver plenamente.

Los desarrolladores deben construir sistemas que se expliquen por sí mismos. Los reguladores deben construir marcos que distribuyan la responsabilidad de manera justa. Los educadores médicos deben dotar a los futuros médicos de las herramientas necesarias para evaluar la IA de forma crítica. Y los sistemas de salud deben crear entornos donde los médicos se sientan seguros al plantear preocupaciones sobre el rendimiento de la IA sin ser caracterizados como obstáculos para el progreso. La promesa de la IA en la medicina es genuina. También lo es el trabajo que queda antes de que esa promesa pueda cumplirse de forma responsable.

Referencias

1. Sagona, Madeline & Dai, Tinglong & Macis, Mario & Darden, Michael. (2025). Trust in AI-assisted health systems and AI’s trust in humans. npj Health Systems. 2. 10.1038/s44401-025-00016-5.

2. Goh E, Gallo R, Hom J, et al. Influencia de los grandes modelos de lenguaje en el razonamiento diagnóstico: un ensayo clínico aleatorizado. JAMA Netw Open. 2024; 7(10):e2440969. doi:10.1001/jamanetworkopen.2024.40969