Derechos del paciente frente a la inteligencia artificial clínica

La inteligencia artificial ya está transformando la medicina.

Diagnostica enfermedades, interpreta imágenes, predice riesgos clínicos, optimiza recursos hospitalarios y apoya la toma de decisiones de médicos y organizaciones de salud.

Sin embargo, existe una pregunta que todavía no nos hacemos con suficiente frecuencia:

¿Qué derechos tienen los pacientes cuando una inteligencia artificial participa en decisiones que afectan su salud?

Durante décadas construimos un sistema sanitario basado en principios fundamentales como el consentimiento informado, la confidencialidad, la autonomía del paciente y el acceso a la información clínica.

Pero esos derechos fueron diseñados para una relación entre dos actores: el médico y el paciente.

Hoy existe un tercer actor.

Un actor invisible.

Un actor que aprende, analiza, clasifica y recomienda: La inteligencia artificial.

La incorporación de estos sistemas representa una oportunidad extraordinaria para mejorar la calidad asistencial, reducir errores diagnósticos y ampliar el acceso al conocimiento médico. Sin embargo, también plantea desafíos inéditos relacionados con la transparencia, la privacidad, los sesgos algorítmicos y la responsabilidad por las decisiones adoptadas.

Por ello, en una reciente conferencia sobre inteligencia artificial en salud, propuse la necesidad de desarrollar una nueva generación de derechos para los pacientes.

Entre ellos:

• Derecho a saber cuándo se utiliza inteligencia artificial.

• Derecho a recibir explicaciones comprensibles sobre decisiones influenciadas por algoritmos.

• Derecho a supervisión humana efectiva.

• Derecho a impugnar decisiones algorítmicas.

• Derecho a no ser objeto de decisiones exclusivamente automatizadas.

• Derecho a la privacidad reforzada de los datos de salud.

• Derecho a la trazabilidad y auditoría de los sistemas utilizados.

• Derecho a la rendición de cuentas cuando una IA produce un daño.

Y, como concepto integrador, propuse el reconocimiento de un nuevo derecho emergente:

El Derecho a la Autonomía Algorítmica en Salud.

Es decir, el derecho de toda persona a conocer, comprender, controlar y cuestionar la influencia que los sistemas de inteligencia artificial ejercen sobre las decisiones relacionadas con su salud.

La pregunta ya no es si la inteligencia artificial participará en la atención sanitaria.

La pregunta es si: ¿seremos capaces de garantizar que, mientras lo haga, la dignidad humana continúe ocupando el centro del sistema de salud?

Los derechos del paciente fueron una de las grandes conquistas éticas de la medicina del siglo XX.

Los derechos del paciente frente a la inteligencia artificial probablemente serán una de las grandes conquistas éticas de la medicina del siglo XXI.