Aviso de Transparencia y Cumplimiento AI Act

1. Clasificación como sistema de IA de alto riesgo

Los modelos de inteligencia artificial utilizados por MetaQare en el ámbito clínico (incluyendo Authors of Clinical AI, ACAI) se consideran sistemas de alto riesgo según el Reglamento Europeo de Inteligencia Artificial (AI Act), al influir en decisiones relacionadas con la salud de las personas.

2. Transparencia y derecho a la información

Cuando interactúe con la IA de MetaQare, será informado de que:

• Está interactuando con un sistema de inteligencia artificial.
• Las sugerencias generadas tienen naturaleza de orientación clínica, no de diagnóstico definitivo.
• Las recomendaciones deben ser revisadas por un profesional sanitario.

3. Supervisión humana

MetaQare garantiza que los sistemas de IA no tomen decisiones clínicas autónomas. Siempre existe supervisión humana:

• Los médicos pueden revisar, matizar o descartar las recomendaciones de la IA.
• Los pacientes pueden optar por consultar directamente con profesionales humanos.
• Se registran auditorías para rastrear cómo se han utilizado las salidas de la IA en cada caso.

4. Gestión de riesgos y calidad

MetaQare mantiene un sistema de gestión de riesgos y de calidad para los modelos de IA que incluye:

• Evaluaciones de rendimiento, exactitud y robustez de los modelos.
• Análisis de posibles sesgos y su impacto en colectivos vulnerables.
• Monitorización continua en fase de poscomercialización (“post-market monitoring”).

5. Documentación técnica y registros

Conforme al AI Act, MetaQare conserva documentación técnica actualizada de los modelos de IA, que abarca:

• Descripción de la arquitectura y datos de entrenamiento.
• Resultados de validación y pruebas clínicas, cuando existan.
• Registros de cambios de versión y despliegues.

6. Derechos de los usuarios frente al uso de IA

Además de los derechos reconocidos por el GDPR, los usuarios tienen derecho a:

• Obtener información comprensible sobre el papel que ha desempeñado la IA en una sugerencia clínica concreta.
• Solicitar revisión humana adicional de cualquier resultado relevante para su salud.
• Presentar reclamaciones ante las autoridades competentes si consideran que el uso de IA ha vulnerado sus derechos.