El diputado federal panista Èctor Jaime Ramírez Barba, dijo que se tiene que proteger la autonomía humana en el uso de la Inteligencia Articial (IA), por lo que la toma de decisiones no debe ser transferida a las máquinas; las personas deben mantener el control sobre los sistemas de atención de la salud y las decisiones médicas.
En este contexto, el secretario de la Comisión de Salud informó en un comunicado que el Grupo Parlamentario presentó una iniciativa con las siguientes características:
- Fortalecer las disposiciones de la Ley General de Salud relacionadas con la protección de datos personales y armonizarlas con las leyes vigentes, de modo que no quede margen alguno para el uso indebido de la información personal sobre la salud de las personas.
- Los datos de los pacientes utilizados para entrenar y alimentar los sistemas de IA deberán ser anónimos y tratados con estricta confidencialidad.
- Los datos personales sensibles obtenidos para fines médicos con el consentimiento informado respectivo sólo podrán usarse para este propósito y serán eliminados cuando dejen de tener utilidad.
- Los sistemas de IA únicamente podrán ser utilizados en el Sistema Nacional de Salud con el consentimiento informado del paciente.
- Los sistemas de IA utilizados en el Sistema Nacional de Salud serán una herramienta de apoyo, por lo que su uso terapéutico deberá realizarse con la supervisión y validación de profesionales de la salud. Para el uso de los sistemas de IA, en todos los casos, habrá una supervisión y toma de decisiones finales por parte de profesionales humanos.
- Las y los usuarios de los servicios de salud tendrán derecho de solicitar una explicación comprensible cuando las decisiones médicas se tomen con la asistencia de sistemas de IA. Además, podrán negarse a recibir atención médica con el apoyo de sistemas de IA, para lo cual, se brindarán las alternativas necesarias para garantizar el derecho a la salud.
- Las y los prestadores de servicios de salud solamente podrán usar sistemas de IA autorizados por la Secretaría de Salud.
- La Secretaría de Salud promoverá la capacitación y educación sobre el uso ético y seguro de la IA en el Sistema Nacional de Salud.
- La Secretaría establecerá mecanismos regulares de evaluación y auditoría de los sistemas de IA utilizados en el Sistema Nacional de Salud con el objetivo de: identificar problemas técnicos y funcionales en el desempeño de los sistemas de IA, evaluar la precisión y exactitud de los diagnósticos y tratamientos recomendados por dichos sistemas, y determinar en qué casos los sistemas de IA representan un riesgo para la salud de las personas.
- Las y los profesionales de la salud, prestadores de servicios de salud, desarrolladores y proveedores de sistemas de IA destinados a utilizarse en el ámbito de la salud, serán responsables, según corresponda, para todos los efectos legales y responsabilidad profesional, de los resultados generados por el uso de los sistemas de IA en la salud, incluyendo sus efectos adversos, que pongan en peligro la vida, salud y seguridad de los pacientes
- La Secretaría de Salud determinará en qué casos los sistemas de inteligencia artificial representan un riesgo para la salud de las personas y procederá a solicitar la suspensión de operaciones del sistema y en su caso su cancelación.
Ramírez Barba indicó que en los últimos años la IA ha emergido como una herramienta invaluable que impacta, de manera directa o indirecta, todos los aspectos de la vida moderna. El ámbito de la salud no ha sido una excepción; la medicina se ha beneficiado del desarrollo de tecnologías digitales.
La IA desarrolla nuevas soluciones en el sector salud, capaces de realizar diagnósticos, recomendar tratamientos y prevenir enfermedades. Además, facilita el diseño de nuevas terapias y fármacos, así como la capacitación de profesionales de la salud para mejorar sus habilidades.
Sin embargo, aseveró, su utilización también conlleva riesgos que deben ser considerados y gestionados adecuadamente, lo que implica la necesidad de regular su implementación desde la Ley General de Salud, “como estamos proponiendo en la Cámara de Diputados de cara al inicio de la nueva Legislatura”.
Dijo que hasta la Organización Mundial de la Salud (OMS) ha advertido que el uso inadecuado de la IA puede perjudicar a las y los pacientes al llevar a diagnósticos erróneos o tratamientos incorrectos.
Así, aunque las herramientas de IA pueden ser utilizadas, las decisiones en el sector salud siempre deben recaer en un profesional de la salud. Por lo tanto, “los legisladores debemos atender las nuevas realidades y buscar la protección de la población, a la vez que garantizamos las condiciones para mejorar los servicios de salud”.
Agregó que uno de los puntos principales que pueden generar riesgos para las y los usuarios, es la necesidad de garantizar la protección de los datos personales sensibles de las personas, así como asegurar que el acceso a estos datos cumpla con los requisitos del consentimiento informado. Y es que, con el uso indebido de estos datos, se puede generar y difundir desinformación convincente, pero falsa.
También, es necesario que la IA se adhiera a valores fundamentales como la transparencia, la colaboración pública, la supervisión por parte de expertos y el rigor en las evaluaciones, esto quiere decir que solamente se puede hacer uso de sistemas que utilizan la IA, cuando previamente hayan sido autorizados por la autoridad sanitaria, es decir, una vez que se confirmen sus beneficios y se descarten errores o riesgos.
Las tecnologías de la IA deben estar sometidas a rigurosas evaluaciones y pruebas que demuestren de manera inequívoca los beneficios que pueden generar antes de su uso generalizado en los servicios de atención de salud y en la práctica médica. Esto debe aplicar tanto a particulares, proveedores de atención y administradores de sistemas de salud, como a las instancias normativas y a los propios usuarios, concluyó Ramírez Barba.