La confianza hay que sentirla, no solo construirla

Durante una década la restricción de la IA clínica fue la capacidad. Esa pregunta se está cerrando. Un ensayo aleatorizado pragmático publicado en NEJM AI ha encontrado que un escriba ambiental reduce el tiempo de documentación y el desgaste profesional; los modelos fundacionales multimodales como EyeFM se validan ya en ensayos aleatorizados con doble enmascaramiento. La tecnología ha pasado de la demostración a la evidencia.

Y eso significa que la pregunta interesante se ha movido. Ya no es si un modelo puede leer una imagen o redactar una nota, sino si un sistema de salud puede desplegarlo de una forma en la que el clínico confíe, el regulador acepte y el paciente esté seguro. Es un problema de datos y de gobernanza, no de tamaño del modelo, y también un problema de experiencia de paciente: una atención que se siente personal solo funciona cuando el paciente puede confiar en adónde han ido sus datos.

El estudio de referencia del WEF y BCG, “Earning Trust for AI in Health”, redefine el cuello de botella con precisión: de construir la IA a gobernarla. Las prioridades que nombra son técnicas y poco vistosas: una gestión meticulosa de las fuentes de datos, una trazabilidad sistemática, metadatos completos y una vigilancia poscomercialización adecuada a sistemas probabilísticos, no a fármacos estáticos. Dicho de otro modo, una IA en salud digna de confianza es una disciplina de gestión de datos antes que una de modelización.

Leída contra el gráfico, la lección es cruda: la capacidad bruta del modelo es hoy el menor de los factores que condicionan. Los datos gobernados, la evaluación, la residencia y la adopción por parte de los clínicos son lo que decide si un despliegue sobrevive al contacto con un hospital. Una IA construida para ser segura pero que no se siente segura, sencillamente, no se usa.

El Espacio Europeo de Datos Sanitarios (EEDS) entró en vigor en marzo de 2025, con las reglas de uso primario y secundario aplicándose por fases hasta 2029 y 2031. Lo decisivo es que los Estados miembros pueden exigir que los datos sanitarios se almacenen y se traten dentro de la UE, y que la historia clínica es una categoría especial de datos bajo el RGPD. Eso convierte a Europa en la jurisdicción de datos sanitarios más estructurada del mundo, y convierte la residencia en una restricción de diseño de primer orden.

También aquí la residencia no es lo mismo que la soberanía: unos datos sanitarios en una región de la UE de un proveedor con sede en Estados Unidos siguen al alcance de la CLOUD Act estadounidense, y por eso Francia exige ya una infraestructura certificada de soberanía para datos de salud. La trazabilidad, la evaluación y la supervisión que pide el WEF son mucho más fáciles de entregar, y de demostrar, cuando los datos y el modelo viven dentro de un perímetro soberano. Las cifras de aquí son modelos de Rindogatan; el calendario del EEDS es el de la Comisión.

Empieza por la trazabilidad, no por los modelos: ¿puedes rastrear cada entrada, cada versión y cada firma humana detrás de un resultado clínico asistido por IA? Si no, ese hueco, y no el modelo, es tu hoja de ruta. Construye primero los cimientos de datos gobernados y residentes en la UE.

Pilota la carga que los clínicos ya quieren (la documentación ambiental es la primera victoria más limpia) sobre infraestructura soberana, e instruméntala para la evaluación y la vigilancia poscomercialización desde el primer día. Reserva la frontera para la investigación con datos desidentificados, y sé honesto con el retorno: las organizaciones que lo miden (y la mayoría todavía no lo hace) son las que se ganan el siguiente despliegue.