La Organización Mundial de la Salud (OMS) advirtió este martes que la adopción apresurada de sistemas de inteligencia artificial no probados en el ámbito de la salud puede llevar a errores por parte de los profesionales sanitarios y ocasionar daños a los pacientes. Por esta razón, instó a un uso ético y una gobernanza adecuada de estas herramientas.
La OMS subrayó la importancia de salvaguardar la salud pública y proteger el bienestar, la seguridad y la autonomía de las personas al utilizar modelos de lenguaje generados por inteligencia artificial.
Asimismo, hizo un llamado a someterlos a una exhaustiva evaluación antes de su implementación y a vigilar su funcionamiento una vez puestos en práctica.
En caso contrario, advirtió el organismo, las consecuencias negativas erosionarán la confianza en la inteligencia artificial. Pudiendo socavarse los posibles beneficios y aplicaciones a largo plazo de estas tecnologías.
⇒LEER TAMBIÉN: Inteligencia Artificial. UNESCO propone recomendaciones éticas
La Organización de las Naciones Unidas (ONU) explicó que los modelos de lenguaje generados por inteligencia artificial, como ChatGPT, Bard y Bert, entre otros, son plataformas de rápido crecimiento que imitan la comprensión, el procesamiento y la producción de la comunicación humana.
La OMS reconoce las ventajas potenciales de utilizar la inteligencia artificial de manera adecuada para respaldar a profesionales de la salud, pacientes, investigadores y científicos. Sin embargo, también plantea preocupación por la falta de cautela que a menudo se observa en su uso.
Lo cual no es comparable a la precaución ejercida con otras tecnologías emergentes.
Riesgos del uso precipitado de la Inteligencia Artificial en el campo de la Salud
Al referirse a los principales riesgos del uso de esas herramientas, la Organización Mundial de la Salud enumeró los siguientes:
Los datos utilizados para las bases que nutren la inteligencia artificial pueden estar sesgados. Pudiendo generar información engañosa o inexacta que podría significar algún peligro para la salud, la equidad y la inclusión
Los modelos de lenguaje generados por inteligencia artificial producen respuestas que pueden parecer autorizadas y plausibles para un usuario final. Pero éstas pueden ser incorrectas o contener errores graves, sobre todo en temas relacionados con la salud
Pueden recibir información sobre datos cuyo uso no haya sido consentido previamente. Y cuando generan respuestas pueden no proteger datos confidenciales como los que proporciona un usuario a una aplicación informática
Los modelos de lenguaje generados por inteligencia artificial se pueden utilizar indebidamente para generar y difundir desinformación sobre la salud en forma de contenido de texto, audio o video difícil de diferenciar del contenido confiable
Uso de IA debe ser con transparencia
La OMS hizo hincapié en la importancia de seguir un proceso de análisis de las herramientas de inteligencia artificial. Debe incluir transparencia, inclusión, participación pública, supervisión experta y evaluación rigurosa.
Si bien reconoce que el ámbito de la salud puede beneficiarse de las nuevas tecnologías para mejorar la salud humana, recomienda que los responsables de la formulación de políticas garanticen la seguridad y protección de los pacientes, mientras las empresas tecnológicas trabajan en la comercialización de los modelos de lenguaje generados por inteligencia artificial.
La organización enfatiza la necesidad de examinar cuidadosamente los riesgos al utilizar modelos de lenguaje generados por inteligencia artificial para mejorar el acceso a la información de salud, como una herramienta de apoyo en la toma de decisiones o para mejorar la capacidad de diagnóstico en entornos con recursos limitados, con el objetivo de proteger la salud de las personas y reducir las desigualdades.
Además, propone que se evalúe la evidencia clara de los beneficios antes de utilizar ampliamente estas herramientas en la atención médica y la medicina rutinaria, ya sea por parte de individuos, proveedores de atención, administradores del sistema de salud o formuladores de políticas.
La OMS destaca en su guía sobre ética y gobernanza de la inteligencia artificial en el campo de la salud la importancia de proteger la autonomía, promover el bienestar y la seguridad humanos, garantizar la transparencia y la comprensibilidad, fomentar la responsabilidad y la rendición de cuentas, asegurar la inclusión y la equidad, y proteger la autonomía al diseñar, desarrollar y aplicar la inteligencia artificial, con el objetivo de lograr un uso confiable y sostenible.
