GenAI: cómo esta herramienta tecnológica puede ser útil para el sector salud

 

 

●        Según el estudio “Creación de empleo y desarrollo económico local 2024”, realizado por la Organización para la Cooperación y Desarrollo Económicos (OCDE), México tiene una exposición más baja a la GenIA que el resto de los países miembros del organismo.

●        En promedio, detalla el estudio, el 19% de las ocupaciones del país serán impactadas por esta tecnología, mientras que la media global es de 26%.

 

México, 1º de abril de 2025. La Inteligencia Artificial Generativa (GenAI) tiene un enorme potencial en el sector salud y puede ser un agente transformador en áreas clave como la experiencia del paciente, optimización de procesos administrativos e incluso el descubrimiento de fármacos, así lo revela EPAM Systems Inc. en una reciente publicación “todo ello con el objetivo de mejorar la atención médica y reducir los costes”.

 

El rápido avance de la GenAI obliga a que las recomendaciones y regulaciones para su uso en la atención médica y las ciencias de la vida se mantengan al día. Este sería un factor para que las empresas no inviertan en esta tecnología. Sin embargo, EPAM considera que esto sería un error, ya que pondría en riesgo las oportunidades que brinda esta herramienta, aunque conlleva un enorme riesgo. La solución que ellos visualizan es empoderar a su personal.

 

“La aplicación de GenAI sin la participación humana podría poner en peligro la seguridad del paciente. Su uso como agente que apoya las tareas realizadas por humanos libera todo su potencial, a la vez que refuerza las medidas de seguridad”, indica la publicación.

 

En este mismo punto coincide la Organización Mundial de la Salud, que ha llamado a un uso ético y seguro de la IA para la salud: “Si bien la OMS es partidaria entusiasta del uso adecuado de tecnologías, incluidos los grandes modelos lingüísticos (LLM), en apoyo del personal de salud, los pacientes, la investigación y la ciencia, ha manifestado su inquietud por si las precauciones que normalmente se tienen ante toda nueva tecnología, no se aplican sistemáticamente con los grandes modelos lingüísticos. Ello incluye la observancia generalizada de valores fundamentales como la transparencia, la inclusión, la colaboración pública, la supervisión de expertos y el rigor de las evaluaciones.

 

“La adopción precipitada de sistemas no comprobados podría inducir a errores por el personal de salud, causar daños a los pacientes, erosionar la confianza en la IA y, por tanto, socavar (o retrasar) los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo”.

 

Ante este panorama de dudas es que EPAM aclara que “hasta que la humanidad no tenga la certeza de que la IA no diagnosticará erróneamente un infarto ni alucinará (proporcionar información falsa) algo que parezca consejo médico, no deberíamos usar GenAI sin supervisión humana”, y “aunque las pruebas demuestran que GenAI está mostrando una mejor comprensión y respuesta al contenido médico, aún es demasiado pronto para incorporar la tecnología a la atención médica sin una supervisión estricta”.

 

Lo que se debe y no se debe hacer con GenAI en la atención médica

 

EPAM indica que antes de adoptar un enfoque en donde la GenAI intervenga en casos de atención médica, primero se debe definir el problema o desafío a solucionar y así evaluar si es que esta tecnología es la indicada. De serlo, el siguiente paso es comprender los riesgos y esfuerzos que conlleva su uso antes de determinar si la posible recompensa vale la pena. Y es que las ventajas son amplias, ya que existen áreas en las que su uso puede acelerar ciertas operaciones.

 

“El mejor enfoque es considerar GenAI no como un sustituto de los humanos, sino como una mejora que nos ayuda a realizar nuestras tareas con mayor rapidez y eficiencia”, destaca la publicación. Algunos ejemplos son:

 

●        Resumen de textos para compartir únicamente con usuarios internos.

●        Generación de contenido borrador para su posterior revisión y aprobación a través de los canales correspondientes.

●        Apoyo de guardia a empleados internos para difundir las mejores prácticas y procedimientos operativos estándar, y mejorar la productividad de los trabajadores.

●        Extracción de metadatos y mapeo relacional.

 

En todos estos casos la intervención humana es esencial para garantizar la validación y el control de los resultados, contemplando que saben que los resultados son generados por computadora.

 

Por otro lado, existen áreas de la GenAI que parecen atractivas; sin embargo, requieren de pruebas y validación más exhaustivas, por lo que EPAM recomienda tomar las siguientes precauciones:

 

●        No utilizar grandes modelos lingüísticos (LLM) como interfaz de preguntas y respuestas para pacientes o proveedores de atención médica sin restricciones. En su lugar, utilice métodos de recuperación y generación aumentada (RAG) para mejorar la calidad de los datos.

●        No emplear LLMs para generar contenido dinámicamente sin seguir procesos para revisarlo y aprobarlo primero.

●        No compartir información personal con un LLM sin obtener su permiso. “Las leyes de privacidad de datos deben tenerse en cuenta al considerar qué conjuntos de datos exponemos a las aplicaciones de GenAI”.

 

–
ABOUT EPAM SYSTEMS 
Desde 1993, EPAM Systems, Inc. (NYSE: EPAM) ha utilizado su experiencia en ingeniería de software para convertirse en un proveedor global líder en servicios de ingeniería, nube y transformación digital  habilita por inteligencia artificial, así como un socio principal  en consultoría de experiencias y negocios digitales para empresas globales y startups ambiciosas. Abordamos los desafíos de transformación de nuestros clientes fusionando la estrategia, la experiencia y la consultoría tecnológica de EPAM Continuum con nuestros más de 30 años de experiencia en ejecución de ingeniería para acelerar el tiempo de comercialización de nuestros clientes e impulsar un mayor valor de sus innovaciones e inversiones digitales.

Realizamos delivery a nivel global, pero interactuamos localmente con nuestros equipos expertos de consultoría, arquitectura, diseño  e ingeniería, haciendo que el futuro sea real para nuestros clientes, nuestros socios y nuestros empleados en todo el mundo.

Creemos que las soluciones correctas son aquellas que mejoran la vida de las personas e impulsan la ventaja competitiva para nuestros clientes en diversas industrias. Nuestro pensamiento cobra vida en las experiencias, productos y plataformas que diseñamos y lanzamos al mercado.

Incluidos al S&P 500 y Forbes Global 2000 en 2021 y reconocidos por Glassdoor como el Mejor Lugar para Trabajar en 2023 y 2024, nuestros equipos multidisciplinarios atienden a clientes en seis continentes. Estamos orgullosos de estar entre las 15 principales empresas de servicios de tecnologías de la información en Fortune 1000 y de ser reconocidos como líderes en IDC MarketScapes for Worldwide Experience Build Services, Worldwide Experience Design Services and Worldwide Software Engineering Services, así como una empresa líder en el Gartner^® Magic Quadrant^™ for Custom Software Development Services a nivel mundial.*

Conozca más en www.epam.com y síganos en LinkedIn.

^*Gartner no respalda a ningún proveedor, producto o servicio descrito en sus publicaciones de investigación y no recomienda a los usuarios de tecnología que seleccionen sólo aquellos proveedores con las calificaciones más altas u otra designación. Las publicaciones de investigación de Gartner consisten en opiniones de la organización de investigación de Gartner y no deben interpretarse como declaraciones de hechos. Gartner renuncia a toda garantía, expresa o implícita, con respecto a esta investigación, incluida cualquier garantía de comerciabilidad o idoneidad para un propósito particular.