Coincidiendo con el Día mundial de Internet, 2023, la Organización Mundial de la Salud (OMS) ha aprovechado la celebración para emitir una serie de advertencias relacionadas con el auge de las plataformas generadas a partir de inteligencia artificial (IA) de más rápida expansión, como ChatGPT, Bard, entre otras. "Su difusión ...
Coincidiendo con el Día mundial de Internet, 2023, la Organización Mundial de la Salud (OMS) ha aprovechado la celebración para emitir una serie de advertencias relacionadas con el auge de las plataformas generadas a partir de inteligencia artificial (IA) de más rápida expansión, como ChatGPT, Bard, entre otras. "Su difusión pública meteórica y su creciente uso experimental con fines relacionados con la salud están generando un entusiasmo significativo en torno al potencial para apoyar las necesidades de salud de las personas", tal como se señala desde la OMS.
Si bien dicha organización no se aparta del uso apropiado de las tecnologías, incluidas las herramientas de modelo de lenguaje grande (LLM), como apoyo dentro del ámbito sanitario, reconoce la preocupación que genera de que la cautela que normalmente se ejercería para cualquier tecnología nueva no se está ejerciendo de manera coherente con los LLM. Esto incluye la adhesión generalizada a los valores clave de transparencia, inclusión, participación pública, supervisión experta y evaluación rigurosa.
Dicha preocupación expresada por la Agencia de Salud de la ONU se resume en cinco advertencias que ha enumerado:
-Los datos utilizados para entrenar la IA pueden estar sesgados, generando información engañosa o inexacta que podría plantear riesgos para la salud, la equidad y la inclusión.
-Los LLM generan respuestas que pueden parecer autorizadas y plausibles para un usuario final; sin embargo, estas respuestas pueden ser completamente incorrectas o contener errores graves, especialmente para las respuestas relacionadas con la salud.
-Los LLM pueden recibir capacitación sobre datos para los cuales es posible que no se haya proporcionado previamente el consentimiento para dicho uso, y los LLM pueden no proteger los datos confidenciales (incluidos los datos de salud) que un usuario proporciona a una aplicación para generar una respuesta.
-Los LLM pueden usarse indebidamente para generar y difundir desinformación altamente convincente en forma de contenido de texto, audio o video que es difícil para el público diferenciar del contenido de salud confiable.
-Si bien está comprometida con el aprovechamiento de las nuevas tecnologías, incluida la IA y la salud digital para mejorar la salud humana, la OMS recomienda que los formuladores de políticas garanticen la seguridad y protección del paciente mientras las empresas de tecnología trabajan para comercializar los LLM.
La OMS propone que se aborden estas preocupaciones y se mida la evidencia clara del beneficio antes de su uso generalizado en la atención médica y la medicina de rutina, ya sea por parte de individuos, proveedores de atención o administradores del sistema de salud y formuladores de políticas.
Y es que, como recalca, "la adopción precipitada de sistemas no probados podría generar errores por parte de los trabajadores de la salud, causar daño a los pacientes, erosionar la confianza en la IA y, por lo tanto, socavar (o retrasar) los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo".
