La Secretaría General de Salud Digital, Información e Innovación del Sistema Nacional de Salud (SNS), dependiente del Ministerio de Sanidad, ha lanzado la primera guía oficial sobre Inteligencia Artificial dirigida a los profesionales sanitarios bajo el nombre ‘Orientaciones para profesionales sanitarios en el uso de la IA’.
Bajo la premisa de que la IA nunca puede sustituir el juicio clínico, el objetivo es aterrizar en el ámbito asistencial sanitario el Reglamento Europea de Inteligencia Artificial (IA) o Data IA Act y ofrecer recomendaciones prácticas, éticas y legales para un uso seguro, efectivo y responsable de esta herramienta en entornos sanitarios.
La recomendación más relevantes: la IA nunca sustituye al profesional
Esta guía, tal y como señala el documento, está dirigida a cualquier profeisonal asistencial que deba «elegir, supervisar o interactuar con herramientas de IA en la atención directa a pacientes, tanto a quienes empiezan a utilizar estas tecnologías como a quienes ya las han probado y buscan maximizar su valor, o bien desean integrarlas con mayor seguridad en su actividad asistencial».
Tras ello, pasa a ofrecer las principales orientaciones generales para el uso clínico de la IA. Siendo la premisa principal que la IA nunca puede sustituir el criterio del profesional ni tomar decisiones de forma autónoma en la atención sanitaria.
La guía insiste en que lA es únicamente una herramienta de apoyo para potenciar las capacidades y la eficiencia. Por tanto, las decisiones clínicas deben seguir siendo humanas, ya que la responsabilidad no se desplaza al algoritmo.
En caso de que un profesional sanitario utilice una herramienta IA en la toma de decisiones clínicas, el profesional debe actuar conforme a la lex artis y las guías clínicas. Además, debe validar y auditar siempre las recomendaciones antes de aplicarlas a los pacientes.
El documento aconseja que solo se usen las sistemas que cumplan los requisitos legales y que siempre se informe al paciente sobre el uso de la IA en el proceso y todas las implicaciones que ha tenido en caso de que el diagnóstico o recomendación esté directamente influenciado por el uso de la IA.
Responsabilidad y sesgos: el último criterio siempre del profesional
Respecto la responsabilidad ante un afecto adverso por la utilización de IA, el documento es muy explícito: la IA no tiene personalidad jurídica propia. Por lo que la responsabilidad legal ante un daño responde el profesional o su empleador, sin perjuicio de la posible responsabilidad del fabricante cuando exista un defecto del producto sanitario.
Otra de las preguntas que resuelve la guía es cómo se gestiona la dependencia excesiva y el exceso de confianza en estas herramientas. La respuesta es clara: para mitigar el sesgo es esencial mantener siempre la supervisión humana activa.
Es decir, toda recomendación generada por la IA debe ser validada de forma independiente por el profesional sanitario antes de incorporarla al proceso asistencial, evitando de esta delegar la decisión clínica en el sistema automatizado.
Está prohibido introducir datos de pacientes en herramientas IA no autorizadas
Uno de los mayores aspectos de trascendencia jurídica de la guía es el relativo a la protección de los datos de los pacientes. Sanidad advierte de forma expresa que los profesionales sanitarios no deben introducir datos personales, y especialmente de datos de salud, en herramientas de IA que no hayan sido diseñadas, validadas o autorizadas para uso sanitario o que no ofrezcan garantías de cumplimiento del Reglamento General de Protección de Datos.
El documento recuerda que hacerlo podría constituir una infracción grave desde el punto de vista legal y ético, por lo que únicamente considera admisible el uso de información previamente anonimizada y siempre adoptando medidas que eviten la posible reidentificación de pacientes.
La guía también dedica un apartado específico al consentimiento informado, una cuestión sobre la que fija criterios prácticos para los profesionales. El documento distingue entre el empleo de la IA cómo mera herramienta de consulta o apoyo documental (enfocada a tareas de búsquedas generales o elaborar borradores) y su integración en el proceso asistencial.
En este último supuesto, cuando la IA interviene en el diagnóstico, el tratamiento o el procesamiento de información clínica mediante un producto sanitario, el paciente deberá ser informado de forma expresa de que esa tecnología participa en la atención que recibe, en línea con las exigencias del Reglamento Europeo de IA y la normativa sobre autonomía del paciente.
El documento va un paso más allá y subraya que la información al paciente no puede convertirse en un mero trámite formal. La comunicación deberá explicar, de forma comprensible, cuál es la finalidad de la herramienta, qué papel desempeña en la toma de decisiones clínicas, cuáles son sus limitaciones y qué margen de error puede presentar.
Además, recuerda que el paciente conserva el derecho a rechazar el uso de estos sistemas sin que ello pueda afectar a la calidad de la asistencia sanitaria que recibe, reforzando así el principio de autonomía reconocido en la legislación española y europea.
La omisión de esa información no es una cuestión menor. El Ministerio sostiene que no informar al paciente sobre el uso de inteligencia artificial cuando esta tiene un papel relevante en su atención constituye una vulneración del consentimiento informado, al afectar directamente a su capacidad para decidir libremente sobre el proceso asistencial. Para fundamentarlo cita expresamente el RGPD, el Reglamento Europeo de IA y el Código de Deontología Médica.
