Cuando un sistema de inteligencia artificial comete un error en un hospital, ¿quién paga? La Asociación Médica Americana respondió a esa pregunta el 29 de octubre de 2026 con un nuevo marco de responsabilidad de la IA clínica que reparte la responsabilidad entre las personas y organizaciones mejor situadas para prevenir el daño. Según el marco de responsabilidad de la IA clínica de la AMA, los desarrolladores responden por lo que construyen, los hospitales responden por cómo eligen y supervisan las herramientas que despliegan, y los médicos responden solo por el juicio clínico que pueden ejercer de forma significativa.
La AMA anunció el marco desde su sede en Chicago en la mañana del 29 de octubre, describiéndolo como la primera contribución de una nueva línea de trabajo sobre una de las preguntas sin resolver más urgentes en la IA sanitaria: quién es responsable cuando algo sale mal. La asociación dijo que los marcos de responsabilidad existentes no fueron diseñados para tecnologías en las que médicos, desarrolladores y organizaciones sanitarias ejercen distintos niveles de control sobre el mismo sistema.
Ese desajuste, argumentó la AMA, crea dos problemas a la vez. Los médicos pueden enfrentar responsabilidad por riesgos que no pueden prevenir razonablemente, porque nunca ven los datos, el modelo ni el razonamiento detrás de un resultado de la IA. Al mismo tiempo, los pacientes pueden tener dificultades para buscar reparación cuando la IA causa daño, porque no está claro qué fallo de qué parte lo causó realmente.
El presidente de la AMA, Willie Underwood III, MD, MSc, MPH, dijo: “Los pacientes deben tener vías significativas de recurso cuando la IA clínica causa daño, y los médicos deben poder usar estas tecnologías con la confianza de que la responsabilidad refleja lo que pueden saber y controlar razonablemente. A medida que la IA asume más funciones clínicas, los desarrolladores, las organizaciones sanitarias y los médicos tienen responsabilidades importantes. Necesitamos expectativas claras que protejan a los pacientes, apoyen el juicio clínico sólido y garanticen que la rendición de cuentas siga en manos de quienes están mejor situados para prevenir el daño”.
El marco reconoce que más de una parte puede asumir responsabilidad por un mismo incidente, con la rendición de cuentas alineada con la capacidad de cada parte para prevenir el daño. También subraya que la supervisión del médico no puede sustituir pruebas adecuadas, un diseño apropiado del sistema ni las condiciones necesarias para que la revisión clínica sea significativa; en otras palabras, no se puede esperar que un médico detecte un error que el sistema nunca le mostró.
El informe sobre responsabilidad sigue a un marco de gobernanza anterior de la AMA para la IA agente, publicado el 16 de octubre de 2026, que estableció cómo los sistemas de IA cada vez más capaces deberían poder asumir funciones clínicas trascendentes, bajo qué condiciones y con qué autoridad. El marco de responsabilidad es el primer paso para cumplir el compromiso asumido entonces de avanzar en las preguntas más difíciles de responsabilidad, licencias y regulación.
El momento importa porque la IA ya está integrada en el trabajo clínico cotidiano en Estados Unidos. Los algoritmos ayudan a leer exploraciones, clasificar pacientes, redactar notas, detectar deterioros y priorizar listas de espera. En muchos de esos flujos de trabajo, el médico solo ve un resultado — una lista de pacientes reordenada, una puntuación de riesgo, un diagnóstico sugerido — no el razonamiento que hay detrás. Una encuesta de médicos de la AMA de 2026 sobre inteligencia aumentada halló que más de un tercio de los encuestados eligió marcos de responsabilidad claros como la medida regulatoria con más probabilidades de aumentar su confianza en la IA, señal de cuánto pesa la incertidumbre en la adopción.
El trasfondo legal está fragmentado. No existe una norma federal única que asigne la responsabilidad por la IA clínica. Los estados han empezado a llenar el vacío de formas distintas: la AB 3030 de California exige la divulgación de las comunicaciones con IA generativa, y Texas exige una divulgación por escrito antes de usar un sistema de IA en un tratamiento. Los tribunales también están poniendo a prueba los límites, incluido un pleito presentado en octubre de 2026 por los padres de una joven con epilepsia que murió después de que, según alegan, un chatbot la animara a reducir su medicación anticonvulsiva, un caso que US News Pulse cubrió en detalle. Frente a ese mosaico, el marco de la AMA es un intento de establecer una base de principios antes de que tribunales y legislaturas establezcan una poco a poco.
El marco es, sin embargo, un análisis temprano del Centro de Salud Digital e IA de la AMA. No adopta ninguna política nueva ni crea ningún requisito legal nuevo. Su influencia dependerá de si legisladores, tribunales, hospitales y proveedores adoptan su reparto de responsabilidades.
El corazón del marco es un principio sencillo: la rendición de cuentas debe seguir al control. Cada parte asume los riesgos que está mejor situada para prever y prevenir, y ninguna parte debe cargar con riesgos que recaen por completo en manos de otra.
Los desarrolladores y fabricantes, dice el marco, deben demostrar y mantener la seguridad y la eficacia de sus productos y abordar los riesgos bajo su control. Eso incluye pruebas de que un sistema funciona como se pretende, en las poblaciones y entornos donde realmente se usará, y el deber de seguir supervisándolo y corrigiéndolo tras su despliegue en lugar de tratar el lanzamiento como el fin de la responsabilidad.
Las organizaciones sanitarias y otros implementadores deben ser responsables de cómo se seleccionan, aplican, gobiernan y supervisan los sistemas de IA en entornos reales. En la práctica, dice el informe que acompaña al marco, eso significa que hospitales, sistemas de salud y consultas deben mantener procesos para elegir cada herramienta con cuidado, validarla localmente donde funcionará, supervisar su rendimiento en uso y retirarla cuando sea necesario. Los contratos con proveedores, añade el informe, no deben trasladar la responsabilidad por defectos bajo el control del desarrollador a médicos o implementadores.
Los médicos deben ser responsables del juicio clínico que pueden ejercer de forma significativa, según el uso previsto del sistema, sus limitaciones conocidas y la información disponible en el punto de atención. El informe da un ejemplo concreto: un médico no debe ser considerado responsable de un error de la IA que no puede detectar razonablemente, como un modelo de clasificación que rebaja discretamente la prioridad de un caso mientras el médico solo ve una lista de pacientes reordenada. Los médicos también deben ser libres de rechazar una IA no probada sin sanción, para que rechazar una herramienta en la que no confían no se trate como un fallo asistencial.
Los pacientes, por último, deben conservar vías significativas para buscar rendición de cuentas y reparaciones adecuadas cuando el daño resulte de sistemas de IA defectuosos u otros fallos accionables. El marco trata el recurso del paciente no como un detalle secundario sino como uno de los cuatro pilares: si nadie puede rendir cuentas, el sistema ha fallado, por avanzada que sea la tecnología.
Jennifer Goldsack, vicepresidenta sénior y primera directora del Centro de Salud Digital e IA de la AMA, presentó el informe como el inicio de un programa de trabajo más largo. En una declaración que acompañó a la publicación, dijo que los pacientes deben tener vías significativas de recuperación cuando la IA cause daño, que los médicos necesitan pruebas, información y apoyo para ejercer el juicio clínico con confianza, y que los desarrolladores y los sistemas de salud necesitan expectativas claras sobre sus responsabilidades para innovar e implantar la IA de forma responsable.
Añadió que el informe es un punto de partida y que la AMA ya está avanzando en los siguientes pasos que establece, trabajando junto a médicos, pacientes, expertos legales, responsables políticos y líderes tecnológicos. La asociación dijo que reunirá a esos grupos para dar forma a una gobernanza responsable, incluidas las cuestiones de licencias y regulación que se derivan de la responsabilidad.
La reacción del mundo más amplio de la tecnología sanitaria aún se estaba formando cuando se publicó el marco, pero la dirección es clara a partir de los datos de la propia encuesta de la AMA: los médicos quieren claridad antes de confiar más profundamente en la IA, y más de un tercio señaló la responsabilidad como el paso regulatorio que más confianza generaría. Los líderes de los sistemas de salud, por su parte, enfrentan una nueva expectativa de que su deber de cuidado cubre la selección, validación y supervisión de la IA clínica, no solo su compra.
El marco también llega en una semana en la que la seguridad de la IA para usuarios vulnerables está firmemente en el centro de atención. La nueva ley de Nueva York, firmada el 28 de octubre, prohíbe que los chatbots de IA finjan ser humanos o formen relaciones personales con menores, y el informe de la AMA cubre el otro extremo del espectro de riesgo: el entorno clínico, donde un error puede cambiar un diagnóstico, un tratamiento o una vida.
La responsabilidad no es una cuestión legal abstracta. Decide quién invierte en seguridad, quién divulga un fallo y a quién puede demandar realmente un paciente perjudicado. Cuando la responsabilidad no está clara, en la práctica el defecto suele recaer en el médico — el ser humano más visible de la cadena — incluso cuando el fallo estaba en un modelo que no construyó, en datos que no vio o en una decisión de despliegue que no tomó. Eso disuade a los médicos de usar la IA, o, peor aún, los anima a seguir los resultados de la IA sin crítica porque cuestionarlos parece más arriesgado que obedecerlos.
Al repartir la responsabilidad según el control, el marco de la AMA busca romper esa trampa. Los desarrolladores tienen un motivo para demostrar la seguridad y seguir demostrándola. Los hospitales tienen un motivo para validar las herramientas localmente en lugar de asumir que las afirmaciones de un proveedor se trasladan a sus pacientes. Los médicos tienen un motivo para ejercer un juicio real — y para decir no a una herramienta en la que no confían — sin temor a que la negativa en sí se convierta en responsabilidad. Y los pacientes conservan una vía de reparación cuando el sistema les falla.
El marco también importa para el ritmo de adopción de la IA en la sanidad estadounidense. Los hospitales reciben una oferta creciente de productos de IA, desde la documentación ambiental hasta el apoyo diagnóstico, a menudo con pruebas limitadas sobre cómo funcionan fuera del entorno de pruebas del proveedor. Una expectativa clara de que los implementadores deben validar y supervisar localmente podría ralentizar algunas compras, pero también podría hacer que las compras que se realicen sean más seguras y defendibles, que es exactamente lo que necesita un sistema de salud prudente antes de dejar que la IA se acerque a la cabecera del paciente.
Para los pacientes, la consecuencia más práctica puede ser la transparencia. La lógica del marco apunta a un mundo en el que los pacientes puedan saber cuándo la IA contribuyó a una decisión sobre su atención, cuáles eran sus limitaciones y quién era responsable de comprobarla. Ningún requisito federal garantiza actualmente esa divulgación, y el informe de la AMA no crea uno, pero ofrece a los defensores de los pacientes un argumento de principios a favor de uno.
La AMA dice que este informe es la primera contribución de su trabajo sobre responsabilidad, no la última, y que ya está avanzando en los siguientes pasos junto a médicos, pacientes, expertos legales, responsables políticos y líderes tecnológicos. Hay tres novedades que observar. Primero, si las legislaturas estatales o el Congreso recogen el reparto de responsabilidades del marco en proyectos de ley sobre la IA en la sanidad. Segundo, si los tribunales lo citan al repartir la culpa en el creciente número de casos de mala praxis y responsabilidad por productos relacionados con la IA. Tercero, si los hospitales reescriben los contratos con proveedores para dejar de trasladar la responsabilidad por defectos bajo el control del desarrollador a los clínicos, la práctica que el informe señala expresamente.
A más corto plazo, los sistemas de salud que despliegan IA clínica enfrentarán preguntas de sus propios clínicos y gestores de riesgo: qué herramientas se han validado localmente, cómo se supervisa el rendimiento y qué ocurre cuando se retira una herramienta. Esas preguntas son ahora, en el marco de la AMA, parte del deber de cuidado de un sistema de salud, no un extra opcional.
US News Pulse seguirá cómo reciben el marco los hospitales, desarrolladores y reguladores, y si se convierte en la plantilla de las primeras normas reales de responsabilidad de la IA clínica en Estados Unidos.
Es un marco publicado por el Centro de Salud Digital e IA de la AMA el 29 de octubre de 2026, titulado 'Liability for Clinical AI', que alinea la responsabilidad por el daño de la IA clínica con la autoridad y la capacidad de cada parte para prevenir ese daño.
Según el marco, la responsabilidad se comparte según el control: los desarrolladores por la seguridad y eficacia de lo que construyen, las organizaciones sanitarias por cómo seleccionan, aplican, gobiernan y supervisan la IA, y los médicos por el juicio clínico que pueden ejercer de forma significativa. Los pacientes deben conservar vías de rendición de cuentas y reparación.
No, según el enfoque de la AMA. Los médicos no deben ser considerados responsables de errores de la IA que no pueden detectar razonablemente, como un modelo de clasificación que rebaja la prioridad de un caso mientras el médico solo ve una lista reordenada, y deben ser libres de rechazar una IA no probada sin sanción.
No. Es un análisis temprano del Centro de Salud Digital e IA de la AMA que no adopta ninguna política nueva ni crea ningún requisito legal. Su influencia depende de que legisladores, tribunales, hospitales y proveedores adopten su enfoque.
Porque la IA ya está asumiendo funciones clínicas trascendentes mientras los marcos de responsabilidad existentes no fueron diseñados para sistemas en los que médicos, desarrolladores y organizaciones sanitarias controlan cada uno partes distintas. Más de un tercio de los médicos en la encuesta de la AMA de 2026 dijo que los marcos de responsabilidad claros aumentarían más su confianza en la IA.
Cobertura relacionada: Demanda contra OpenAI: padres dicen que ChatGPT apartó a su hija de su medicamento, Ley de chatbots de IA de Nueva York: Hochul prohíbe bots que fingen ser humanos y Sin rescate para la IA: demócratas piden no salvar a empresas de IA en quiebra.
Leave a Comment
| Today's Date:
