Diseño de Indicadores de IA para la Salud Pública: Uso responsable de la IA generativa

El estudio “Diseño de Indicadores de IA para la Salud Pública: uso responsable de la IA generativa” de la Organización Panamericana de la Salud (OPS) ofrece un marco crítico para guiar la implementación ética y efectiva de la inteligencia artificial generativa en el ámbito sanitario. Este artículo analiza sus aportes, desafíos, oportunidades y la manera en que los países pueden usarlos para fortalecer sus sistemas de salud digital.

 Inteligencia Artificial

Introducción

La inteligencia artificial generativa representa una revolución con gran potencial en salud: modelos de lenguaje que ayudan con diagnósticos, generación de imágenes médicas, asistentes virtuales de salud, todos estos avances requieren un uso responsable. Por ello, el estudio “Diseño de Indicadores de IA para la Salud Pública: uso responsable de la IA generativa” se convierte en una guía imprescindible para gobiernos, instituciones de salud y desarrolladores tecnológicos que buscan asegurar que estos avances se traduzcan en beneficios reales para la población.

Este estudio propone marcos, métricas y estándares para evaluar cómo se está implementando la IA generativa en los sistemas de salud pública, con especial énfasis en la equidad, la transparencia, la gobernanza y los derechos humanos. A lo largo del artículo exploraremos los componentes clave del estudio “Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa”, sus principios rectores, los tipos de indicadores sugeridos, los retos de su aplicación práctica, y el impacto que podría tener este estudio en los sistemas de salud de la región.

Importancia de la IA generativa en salud pública

La IA generativa (modelos que pueden producir texto, imágenes o contenido nuevo a partir de datos de entrenamiento) tiene aplicaciones que prometen transformar la salud pública:

• Automatización de tareas administrativas para liberar al personal de salud.

• Apoyo en diagnósticos mediante generación de imágenes o interpretación de datos complejos.

• Modelado predictivo para anticipar brotes epidemiológicos o necesidades de recursos.

• Personalización de tratamientos y seguimiento de pacientes con mayor precisión.

Sin embargo, con estas oportunidades también surgen riesgos: sesgos que pueden afectar a grupos vulnerables, decisiones opacas, problemas de privacidad y seguridad de datos, desigualdad de acceso a servicios, y falta de responsabilidad legal cuando las cosas salen mal.

El estudio “Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa” presenta:

• Un conjunto de indicadores concretos y medibles para monitorear la implementación y los efectos de la IA generativa en salud pública.

• Definiciones operativas para dichos indicadores, propuestas de fuentes de datos y métodos de medición.

• Un enfoque multidimensional que no se limita al rendimiento técnico, sino que incorpora dimensiones éticas, sociales, regulatorias y participativas.

• Consideración del contexto de América Latina y el Caribe, con sus particularidades en infraestructura, recursos humanos, regulación y desigualdades digitales.

Este enfoque busca que los usuarios del estudio (autoridades sanitarias, reguladores, investigadores) cuenten con una herramienta práctica para evaluar no solo qué tan avanzada es la adopción de IA generativa, sino cómo se está haciendo, y qué impactos tiene sobre la población.

Principios rectores propuestos

El estudio “Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa” se basa en varios principios clave que deben guiar cualquier uso de IA generativa en salud pública:

• Ética y derechos humanos : respeto a la autonomía, protección de datos personales, consentimiento informado.

• Transparencia : explicabilidad de los modelos y decisiones automatizadas; posibilidad de auditorios.

• Equidad : evitar que la IA amplifique desigualdades preexistentes; asegurar acceso justo a tecnologías de IA.

• Responsabilidad y gobernanza : existencia de leyes, procesos de supervisión, estructuras institucionales que responden ante errores o mala praxis.

• Participación ciudadana : involucrar a comunidades, pacientes y otros actores en decisiones sobre diseño y uso de IA generativa.

• Sostenibilidad : modelos que puedan sostenerse en el tiempo, que se ajusten a realidades locales, que cuenten con recursos técnicos y financieros adecuados.

Categorías de indicadores: descripción y ejemplos

El estudio agrupa los indicadores en varias categorías. A continuación una descripción con ejemplos ilustrativos:

• Gobernanza y regulación: mide la existencia de marcos normativos, políticas nacionales y organismos de supervisión. Ejemplo: número de leyes o regulaciones específicas sobre IA en salud; existencia de comités éticos que revisan proyectos con IA generativa.

• Ética y equidad: evalúa cómo se incorporan valores sociales y se mitigan desigualdades. Ejemplo: evaluación de sesgos en modelos de IA; porcentaje de población vulnerable impactada positivamente.

• Capacidades institucionales: mide recursos humanos, infraestructura tecnológica y competencias. Ejemplo: número de instituciones con capacidad de auditar modelos generativos; disponibilidad de base de datos segura.

• Transparencia y explicabilidad: indica que los sistemas generativos sean comprensibles y auditables. Ejemplo: índice de explicabilidad del modelo; Documentación pública sobre cómo se entrenan los sistemas.

• Participación y consentimiento: considera la implicación de usuarios, comunidades y respeto al consentimiento. Ejemplo: porcentaje de proyectos que obtienen consentimiento informado; mecanismos de retroalimentación ciudadana.

• Impacto en salud pública: analiza resultados concretos de salud, acceso y calidad. Ejemplo: mejora en tiempos de diagnóstico; reducción de errores médicos; Ampliación del acceso en zonas rurales.

Estos indicadores no solo permiten medir el estado actual, sino también comparar progresos en el tiempo y entre diferentes regiones o instituciones.

Implementación práctica: retos y recomendaciones

La aplicación del estudio “Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa” implica varios pasos y desafíos:

Retos

• Infraestructura limitada: muchas instituciones carecen de datos de calidad, capacidad de cómputo o privacidad adecuados.

• Desigualdad digital: población en zonas rurales o marginadas puede no beneficiarse si no hay conectividad o acceso técnico.

• Recursos humanos: falta de personal capacitado en IA, ética digital y manejo de grandes volúmenes de datos.

• Regulación lenta o inexistente: leyes que no contemplan IA generativa o regulaciones ambiguas.

• Confianza del público: temor al uso indebido de datos, a decisiones automatizadas sin supervisión humana.

Recomendaciones

• Priorizar los indicadores más críticos según el contexto local, comenzando con los más factibles.

• Invertir en infraestructura de datos segura y en interoperabilidad.

• Capacitar personal sanitario, técnico y regulador en IA, ética y derechos digitales.

• Fomentar la participación comunitaria para diseñar políticas de IA que respondan a necesidades reales.

• Crear mecanismos reguladores ágiles que puedan adaptarse conforme evoluciona la tecnología.

Impacto esperado en sistemas de salud de América Latina y el Caribe

Si los países adoptan los indicadores del estudio “Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa” , se esperan varios impactos:

• Mejora en la rendición de cuentas, al permitir evaluar cómo, cuándo y con qué efectos se usa la IA generativa.

• Mayor equidad en salud, si los modelos son auditados para sesgos y se consideran las necesidades de poblaciones vulnerables.

• Incrementos en la calidad de atención, con diagnósticos más precisos, asistencia más personalizada y mejor seguimiento.

• Optimización de recursos, al reducir errores, automatizar procesos repetitivos y priorizar intervenciones basadas en datos.

• Fomento de la confianza pública cuando las decisiones sobre IA sean transparentes y reguladas.

Consecuencias éticas y legales

El estudio no solo propone criterios técnicos, sino que inciden en las implicaciones éticas y legales:

• Protección de datos: necesidad de garantizar privacidad, anonimización o pseudonimización, seguridad de la información.

• Derechos del usuario: acceso al debido proceso, a que se explique cómo un sistema de IA llegó a una decisión, posibilidad de apelarla.

• Responsabilidad legal: definir quién responde si un sistema de IA genera daño (por ejemplo, un diagnóstico erróneo).

• Equidad jurídica: asegurar que los marcos legales no favorezcan solo a instituciones grandes o países con mayor capacidad tecnológica, dejando atrás a los más vulnerables.

Conclusión

El estudio “Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa” representa un hito importante para la salud digital en la región de las Américas. Ofrece no solo un marco de principios éticos bien fundamentados, sino un conjunto de indicadores prácticos que pueden orientar el desarrollo, evaluación y regulación de la IA generativa en salud pública.

Su adopción permitiría que los avances tecnológicos no generen desigualdades, que los modelos sean transparentes, y que los sistemas de salud se fortalezcan con base en confianza, ética y resultados reales. Para los gobiernos, instituciones y actores del ecosistema de salud digital, este estudio proporciona una hoja de ruta hacia un futuro en el que la tecnología sirva a todas las personas de manera justa.

Referencia al estudio oficial

Organización Panamericana de la Salud (OPS). Diseño de indicadores de IA para la salud pública: uso responsable de la IA generativa . Disponible en: https://iris.paho.org/handle/10665.2/68541