La mente y la máquina

Dr. Eduardo Mayorga

mayorgaedu@gmail.com

Para acceder al perfil de LinkedIn del Dr. Mayorga, ingrese aquí:

https://www.linkedin.com/in/eduardomayorga/

Este trabajo analiza cómo la inteligencia artificial está transformando el pensamiento crítico en la formación médica. En esta edición retomaremos tres capítulos clave sobre el apoyo clínico de la IA, el sesgo de automatización y el impacto en las habilidades diagnósticas.

Capítulo 1: La Promesa que lo inició todo

El atractivo de la IA en la medicina no es difícil de entender. Los modelos de lenguaje grande pueden sintetizar enormes cantidades de literatura médica en segundos, generar diagnósticos diferenciales con una precisión impresionante y proporcionar explicaciones que rivalizan con las de clínicos experimentados.29,30 El sistema AMIE de Google, en un estudio emblemático de 2025 publicado en Nature, demostró que los clínicos asistidos por IA lograron una precisión diagnóstica top-10 del 51.7% en comparación con el 36.1% de los clínicos sin asistencia, una mejora estadísticamente significativa.13 En cuidados intensivos, Wu y Huang mostraron que los clínicos que usaban el modelo DeepSeek-R1 alcanzaron mayor precisión diagnóstica y diagnósticos diferenciales más completos en casos complejos.12

Estos resultados pintan un cuadro seductor: un futuro en el que cada residente tiene acceso a un “copiloto” de IA que eleva su desempeño clínico. Lee, Bubeck y Petro, escribiendo en el New England Journal of Medicine, delinearon tanto el potencial transformador como los riesgos del GPT-4 en contextos clínicos.30 Rajpurkar y colegas mapearon el panorama más amplio de la IA en salud y medicina, señalando que la tecnología avanzaba más rápido que los marcos regulatorios necesarios para gobernar su uso.29

Pero enterrada dentro de esos mismos datos prometedores había una señal preocupante. En el ensayo clínico aleatorizado de Goh et al — una de las pruebas más rigurosas del razonamiento asistido por LLM hasta la fecha — cincuenta médicos recibieron acceso a GPT-4 para el razonamiento diagnóstico. El resultado fue sorprendente: no hubo mejoría medible. Los médicos con IA rindieron al 76.3% versus el 73.7% sin ella (p=0.60), a pesar de que el LLM solo superó a los médicos humanos por 16 puntos porcentuales completos.1 La IA era brillante. Los humanos no pudieron descifrar cómo usarla. Algo se estaba perdiendo en la colaboración, y ese algo resulta ser el hilo conductor que recorre toda esta historia.

Capítulo 2: La trampa del sesgo de automatización

El fenómeno tiene nombre, y es más antiguo que la IA moderna. El sesgo de automatización — la tendencia a favorecer las sugerencias de sistemas automatizados por encima del propio juicio, incluso cuando dichas sugerencias son erróneas — fue documentado sistemáticamente por primera vez en las industrias de la aviación y la energía nuclear.10 El influyente marco de Parasuraman y Manzey de 2010 describió cómo la automatización genera dos patologías relacionadas: la complacencia, en la que los usuarios dejan de monitorear el rendimiento del sistema, y el sesgo, en el que activamente ceden ante él en contra de su mejor juicio.10

En la medicina, la evidencia se ha acumulado durante más de una década. Goddard, Roudsari y Wyatt revisaron 74 estudios de sistemas de apoyo a la decisión clínica y encontraron que el sesgo de automatización aparecía en el 6–11% de las decisiones asistidas. Quizás más preocupante, descubrieron que el 7% de los clínicos que inicialmente tenían la respuesta correcta la cambiaron después de consultar un sistema que estaba equivocado.2 La confianza en la máquina podía anular activamente el razonamiento humano correcto.

La llegada de la IA ha amplificado estas dinámicas. Wang y colegas diseñaron un elegante estudio cruzado aleatorizado usando diagnóstico de RMN de LCA. Cuando la IA estaba disponible, la precisión general aumentó del 87.2% al 96.4% — una ganancia impresionante. Pero una mirada más cercana a los errores restantes reveló un patrón sorprendente: el 45.5% de ellos fueron causados por sesgo de automatización, clínicos abandonando una lectura inicial correcta a favor de una sugerencia incorrecta de la IA.11 El sesgo, encontraron, afectaba a todos los niveles de experiencia. Ni los años de experiencia ni la formación especializada conferían inmunidad.

¿Qué hace esto particularmente peligroso para los residentes médicos? La respuesta radica en la experiencia — o mejor dicho, en la falta de ella. Gaube y colegas demostraron que cuando a los radiólogos se les mostraban recomendaciones de IA, aplicaban un escepticismo apropiado, calificando los consejos de baja calidad como tales. Los médicos menos experimentados no mostraron tal discernimiento; aceptaron los consejos de la IA indiscriminadamente, independientemente de su calidad.3 Kücking, Hübner y su equipo confirmaron este gradiente en un estudio con 210 participantes: los no especialistas eran los más susceptibles al sesgo de automatización, y quienes percibían mayor beneficio de la IA eran paradójicamente más propensos a concordar con recomendaciones incorrectas.14 Jussupow y colegas completaron el cuadro mostrando que los médicos novatos cometieron significativamente más errores diagnósticos cuando recibían consejos incorrectos de la IA que cuando trabajaban completamente por su cuenta.19

Las implicaciones para la formación son contundentes. Los residentes médicos ocupan exactamente la zona de vulnerabilidad donde el sesgo de automatización es más potente: tienen suficiente conocimiento para usar herramientas de IA pero no el suficiente para evaluarlas de manera confiable. La revisión sistemática de Lyell y Coiera identificó una variable moderadora clave — la complejidad de verificación. Cuanto más difícil es verificar independientemente una recomendación de la IA, más probable es que un clínico la acepte sin cuestionar.21 Para un residente a las tres de la mañana, enfrentando una presentación desconocida con tiempo limitado y alta carga cognitiva, el esfuerzo requerido para cuestionar una recomendación segura de la IA puede sentirse prohibitivo. Aceptarla requiere un clic; cuestionarla requiere un acto de valor intelectual.

Capítulo 3: La erosión silenciosa

Las habilidades que nunca practicas son las habilidades que nunca desarrollas — y las habilidades que dejas de practicar son las habilidades que pierdes. Si el sesgo de automatización es el peligro agudo, la amenaza crónica es algo más insidioso: la erosión gradual de las habilidades cognitivas que definen la experticia clínica. La literatura describe tres vías distintas a través de las cuales ocurre esta erosión, y una revisión emblemática del NEJM por Abdulnour, Gin y Boscardin les dio nombres memorables.15

La des-capacitación (de-skilling) es la pérdida de habilidades que un clínico alguna vez poseyó. Cuando la IA maneja tareas que un médico solía realizar de forma independiente — formular diagnósticos diferenciales, sintetizar evidencia, interpretar datos complejos — esas habilidades se atrofian por desuso. Mazouri-Karker y colegas ofrecieron una ilustración vívida desde la literatura de endoscopia: colonoscopistas que entrenaron con detección de pólipos asistida por IA mostraron un rendimiento measurablemente reducido cuando la IA fue retirada.32 La herramienta no solo había asistido la habilidad; había comenzado a reemplazarla.

La nunca-capacitación (never-skilling) es posiblemente la mayor preocupación para la educación médica. Describe la falta de desarrollo de competencias fundamentales desde el inicio porque la IA las maneja durante la ventana crítica de formación. Un residente que siempre ha tenido un LLM para generar diagnósticos diferenciales puede que nunca desarrolle la capacidad de hacerlo independientemente. A diferencia de la des-capacitación, que al menos presupone competencia previa, la nunca-capacitación no deja ningún fundamento al cual recurrir.15

La mal-capacitación (mis-skilling) es la más sutil y quizás la más perniciosa de las tres. Ocurre cuando los errores de la IA pasan desapercibidos y los residentes internalizan prácticas incorrectas como correctas. Zhou y colegas evaluaron la capacidad de residentes de medicina general para identificar alucinaciones generadas por IA — información médica fabricada presentada con la misma confianza que contenido preciso. La precisión media fue un aleccionador 55%, apenas mejor que lanzar una moneda.16 Los residentes que habían recibido capacitación explícita en reconocimiento de errores de IA rindieron mejor, pero la mayoría no había recibido dicha capacitación en absoluto.

Natali y colegas, en la revisión más completa de la des-capacitación inducida por IA en medicina hasta la fecha, rastrearon estas vulnerabilidades a través de múltiples especialidades. Encontraron erosión no solo en el razonamiento diagnóstico sino en las habilidades de examen físico, el juicio clínico e incluso la comunicación médico-paciente — una amplitud de impacto que sugiere que el problema es sistémico más que confinado a un
solo dominio.7

Referencias:

  1. Goh E, Gallo R, Hom J, et al. Large language model influence on diagnostic reasoning: a randomized clinical trial. JAMA Netw Open. 2024;7(10):e2440969. doi:10.1001/jamanetworkopen.2024.40969 https://doi.org/10.1001/jamanetworkopen.2024.40969
  2. Goddard K, Roudsari A, Wyatt JC. Automation bias: a systematic review of frequency, effect mediators, and mitigators. J Am Med Inform Assoc. 2012;19(1):121-127. doi:10.1136/amiajnl-2011-000089 https://doi.org/10.1136/amiajnl-2011-000089
  3. Gaube S, Suresh H, Raue M, et al. Do as AI say: susceptibility in deployment of clinical decision-aids. NPJ Digit Med. 2021;4(1):31. doi:10.1038/s41746-021-00385-9 https://doi.org/10.1038/s41746-021-00385-9
  4. Gerlich M. AI tools in society: impacts on cognitive offloading and the future of critical thinking. Societies. 2025;15(1):6. doi:10.3390/soc15010006 https://doi.org/10.3390/soc15010006
  5. Risko EF, Gilbert SJ. Cognitive offloading. Trends Cogn Sci. 2016;20(9):676-688. doi:10.1016/j.tics.2016.07.002 https://doi.org/10.1016/j.tics.2016.07.002
  6. Sallam M, Barakat M, Sallam M. A student’s viewpoint on ChatGPT use and automation bias in medical education. JMIR Med Educ. 2024;10:e57696. doi:10.2196/57696 https://doi.org/10.2196/57696
  7. Natali C, Marconi L, Duran LD, Miglioretti M, Cabitza F. AI-induced deskilling in medicine: a mixed-method review and research agenda for healthcare and beyond. Artif Intell Rev. 2025;58:178. doi:10.1007/s10462-025-11352-1 https://doi.org/10.1007/s10462-025-11352-1
  8. Sallam M. ChatGPT in medical education: a precursor for automation bias? JMIR Med Educ. 2024;10:e50174. doi:10.2196/50174 https://doi.org/10.2196/50174
  9. Croskerry P. A universal model of diagnostic reasoning. Acad Med. 2009;84(8):1022-1028. doi:10.1097/ACM.0b013e3181ace703 https://doi.org/10.1097/ACM.0b013e3181ace703
  10. Parasuraman R, Manzey DH. Complacency and bias in human use of automation: an attentional integration. Hum Factors. 2010;52(3):381-410. doi:10.1177/0018720810376055 https://doi.org/10.1177/0018720810376055
  11. Wang DY, Liu TH, Li JY, et al. Artificial intelligence suppression as a strategy to mitigate artificial intelligence automation bias. J Am Med Inform Assoc. 2023;30(10):1684-1693. doi:10.1093/jamia/ocad118 https://doi.org/10.1093/jamia/ocad118
  12. Wu X, Huang Y. A large language model improves clinicians’ diagnostic performance in complex critical illness cases. Crit Care. 2025;29:230. doi:10.1186/s13054-025-05468-7 https://doi.org/10.1186/s13054-025-05468-7
  13. McDuff D, Schaekermann M, Tu T, et al. Towards conversational diagnostic artificial intelligence. Nature. 2025. doi:10.1038/s41586-025-08866-7 https://doi.org/10.1038/s41586-025-08866-7
  14. Kücking F, Hübner U, Przysucha M, et al. Automation bias in AI-decision support: results from an empirical study. Stud Health Technol Inform. 2024;317:298-304. doi:10.3233/SHTI240871 https://doi.org/10.3233/SHTI240871
  15. Abdulnour REE, Gin B, Boscardin CK. Educational strategies for clinical supervision of artificial intelligence use. N Engl J Med. 2025;393(8):786-797. doi:10.1056/NEJMra2503232 https://doi.org/10.1056/NEJMra2503232
  16. Zhou J, Zhang J, Wan R, et al. Integrating AI into clinical education: evaluating general practice trainees’ proficiency in distinguishing AI-generated hallucinations. BMC Med Educ. 2025;25:304. doi:10.1186/s12909-025-06916-2 https://doi.org/10.1186/s12909-025-06916-2
  17. Zhai C, Wibowo S, Li L. The effects of over-reliance on AI dialogue systems on students’ cognitive abilities: a systematic review. Smart Learn Environ. 2024;11:26. doi:10.1186/s40561-024-00316-7
  18. Li J, Ai F, Wang J, et al. Application of AIGC in medical education: a systematic review of the impact on critical thinking abilities of medical students. JMIR Med Educ. 2025;11:e79939. doi:10.2196/79939 https://doi.org/10.2196/79939
  19. Jussupow E, Spohrer K, Heinzl A, Gawlitza J. Augmenting medical diagnosis decisions? An investigation into physicians’ decision-making process with artificial intelligence. Inf Syst Res. 2021;32(3):713-735. doi:10.1287/isre.2020.0980 https://doi.org/10.1287/isre.2020.0980
  20. Tsopra R, Peiffer-Smadja N, Charlier C, et al. Putting undergraduate medical students in AI-CDSS designers’ shoes: an innovative teaching method to develop digital health critical thinking. Int J Med Inform. 2022;171:104980. doi:10.1016/j.ijmedinf.2022.104980 https://doi.org/10.1016/j.ijmedinf.2022.104980
  21. Lyell D, Coiera E. Automation bias and verification complexity: a systematic review. J Am Med Inform Assoc. 2017;24(2):423-431. doi:10.1093/jamia/ocw105 https://doi.org/10.1093/jamia/ocw105
  22. Shimizu I, Kasai H, Shikino K, et al. Developing medical education curriculum reform strategies to address the impact of generative AI: qualitative study. JMIR Med Educ. 2023;9:e53466. doi:10.2196/53466 https://doi.org/10.2196/53466
  23. Gordon M, Daniel M, Ajiboye A, et al. A scoping review of artificial intelligence in medical education: BEME Guide No. 84. Med Teach. 2024;46(4):446-470. doi:10.1080/0142159X.2024.2314198 https://doi.org/10.1080/0142159X.2024.2314198
  24. Banerjee M, Chiew D, Patel KT, et al. The impact of artificial intelligence on clinical education: perceptions of postgraduate trainee doctors in London (UK) and recommendations for trainers. BMC Med Educ. 2021;21(1):429. doi:10.1186/s12909-021-02870-x https://doi.org/10.1186/s12909-021-02870-x
  25. Almazrou R, Alarfaj HF, Alsadhan R, et al. Medical students’ perceptions of ChatGPT and its impact on critical thinking in medical education. Nutr Health. 2025;31(1):89-97. doi:10.1177/02601060241273627 https://doi.org/10.1177/02601060241273627
  26. Feigerlova E, Hani H, Hothersall-Davies E. A systematic review of the impact of artificial intelligence on educational outcomes in health professions education. BMC Med Educ. 2025;25:392. doi:10.1186/s12909-025-06719-5 https://doi.org/10.1186/s12909-025-06719-5
  27. Raitskaya L, Tikhonova E. Enhancing critical thinking skills in ChatGPT-human interaction: a scoping review. J Lang Educ. 2025;11(1):11-28. doi:10.17323/jle.2025.27387 https://doi.org/10.17323/jle.2025.27387
  28. Kim DH, Kang YJ, Lee YM. Twelve tips for developing and implementing AI curriculum for undergraduate medical education. Med Educ Online. 2025;30(1):2585637. doi:10.1080/10872981.2025.2585637 https://doi.org/10.1080/10872981.2025.2585637
  29. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022;28(1):31-38. doi:10.1038/s41591-021-01614-0 https://doi.org/10.1038/s41591-021-01614-0
  30. Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med. 2023;388(13):1233-1239. doi:10.1056/NEJMsr2214184 https://doi.org/10.1056/NEJMsr2214184
  31. Çiçek F, Ülker M, Özer M, K yak Y. ChatGPT versus expert feedback on clinical reasoning questions and their effect on learning: a randomized controlled trial. Postgrad Med J. 2024;100(1190):1074-1081. doi:10.1093/postmj/qgae170 https://doi.org/10.1093/postmj/qgae170
  32. Mazouri-Karker S, Bjelogrlic M, Audétat MC. IA et raisonnement clinique : entre promesses et risques de « deskilling » (partie 1). Rev Med Suisse. 2026;22(950):1-6. https://www.revmed.ch/revue-medicale-suisse/202 6/revue-medicale-suisse-950/ia-et-raisonnement-clinique-entre-promesses-et-risques-de-deskilling-partie-1
  33. Mayorga, E. (2026). La mente y la máquina: Cómo la inteligencia artificial está transformando el pensamiento crítico en la formación médica. Una síntesis narrativa de la evidencia actual. Adobe Acrobat. https://acrobat.adobe.com/id/urn:aaid:sc:US:4d036aea-0789-4748-9f83-5ea1daf6364c
Post Views: 633

De interés

Scroll to Top