Introducción
El pasado 13 de marzo de 2024, el Parlamento Europeo marcó un hito al aprobar el primer reglamento de la inteligencia artificial (IA), y marcó así el inicio de una nueva era de regulación con especial relevancia en el sector de la salud.
Uso seguro y ético de la IA
La Ley europea de IA enfatiza la importancia de implementar el uso seguro y ético de la IA, con medidas que garanticen la privacidad y seguridad de los datos de los pacientes. Para los profesionales de la salud y los proveedores de sistemas de IA en este ámbito es de suma importancia cumplir con estas directrices para garantizar que se adopten todas las medidas necesarias para resguardar los datos personales de los pacientes y asegurar un uso ético y transparente de la IA.
Clasificación del riesgo de los sistemas de IA
El reglamento categoriza los sistemas de IA en términos de su nivel de riesgo. Cada nivel de riesgo tiene sus propios ejemplos y aplicaciones potenciales dentro del sector de la salud.
- Inaceptable/prohibido: cualquier sistema de IA que pueda causar daño físico o psicológico a los pacientes, o que pueda comprometer el consentimiento informado del paciente.
- Alto: aquel que proporciona diagnósticos de enfermedades graves o que se utiliza para la toma de decisiones clínicas críticas, como por ejemplo una IA que se utiliza para determinar el tratamiento óptimo para pacientes con cáncer.
- Limitado: se podría considerar de riesgo limitado a un chatbot (asistente virtual) utilizado para proporcionar información general de salud a los pacientes en un hospital, ya que su mal uso no conllevaría graves daños para los pacientes, pero su falta de identificación podría generar confusión.
- Bajo: serían aquellos sistemas de IA que son utilizados para tareas administrativas menores en el trabajo clínico, como la programación de citas o el seguimiento de inventario de suministros médicos.
Impacto en el sector de la salud
El nuevo reglamento de la IA proporcionará un marco normativo adaptado a los desafíos y necesidades específicos de los entornos sanitarios. Los sistemas de IA utilizados en la atención de la salud son a menudo de alto riesgo, lo que implica que deben cumplir con requerimientos rigurosos de seguridad, transparencia y rendición de cuentas. Por ejemplo, cualquier sistema de IA usado en el diagnóstico o tratamiento de pacientes debe ser altamente transparente en sus decisiones y tener una rendición de cuentas sólida en su funcionamiento.
Entre las innovaciones clave que introduce el nuevo reglamento se incluyen:
- Restricciones en la categorización e identificación biométrica: esto afectará a los desarrollos en el sector sanitario que involucren la utilización de datos biométricos y de imágenes faciales de los pacientes. El uso de la IA para identificación debe ajustarse a este marco, incluso en situaciones de emergencia o diagnóstico.
- Derechos del paciente: la nueva regulación garantiza a los pacientes el derecho a recibir explicaciones sobre las decisiones que se tomen respecto a su salud por medio del uso de IA.
- Evaluación de impacto de protección de datos (EIPD): antes de implementar sistemas de IA de alto riesgo, el reglamento exige que se haga una EIPD. Esta medida refuerza la importancia de la protección de datos en el sector sanitario, donde la seguridad de los datos de los pacientes es fundamental.
- Posibles sanciones: infringir este reglamento puede conllevar sanciones de hasta 35 millones de euros o el 7 % de la facturación total anual global.
Implicaciones y conclusiones
Esta nueva Ley sobre IA puede suponer un antes y un después en el mundo de la inteligencia artificial. Se convierte en un marco para balizar las obligaciones y responsabilidades en sectores como la sanidad, donde aprovechar al máximo las ventajas de la IA siempre deberá estar en línea con la ética y la protección del usuario. La entrada en vigor previsiblemente será en 2026
Cada uno de nosotros, como miembros del Servicio de Salud, debemos estar comprometidos con la transparencia, la rendición de cuentas y la seguridad en el uso de la IA en nuestra labor y práctica diaria.
Recursos e información adicional
Para obtener más datos sobre el nuevo reglamento, puede consultar los recursos siguientes: