Noticias

Apr 14, 2024

'Oppenheimer' y los riesgos de la IA en la atención sanitaria

Por Junaid NabiAug. 2, 2023 Todas las grandes historias tienen finales complicados. Pero eso no significa que no puedan ofrecer lecciones sencillas e instructivas. Lo más destacado de la obra maestra de Christopher Nolan, “Oppenheimer”

Por Junaid NabiAug. 2, 2023

Todas las grandes historias tienen finales complicados. Pero eso no significa que no puedan ofrecer lecciones sencillas e instructivas. La obra maestra de Christopher Nolan, "Oppenheimer", destaca la trágica historia del "padre de la bomba atómica". Pero también es una historia sobre cómo Estados Unidos perdió la oportunidad de ser un líder global en el desarrollo de una innovación que definiría el siglo XX. Este siglo estará definido por las tecnologías transformadoras, especialmente la inteligencia artificial, y la historia de J. Robert Oppenheimer ofrece lecciones particularmente destacadas para los líderes, empresarios y formuladores de políticas de atención médica.

La era de Oppenheimer estuvo definida por la carrera por la energía nuclear, mientras que la nuestra está siendo definida por la competencia en tecnología de inteligencia artificial. Ambas tecnologías son herramientas poderosas que cambiarán la trayectoria de la humanidad. En otra similitud desconcertante con la era de Oppenheimer, los actores políticos que formulan políticas nacionales en torno a la innovación parecen no estar comprometidos con los matices de la ciencia o están politizándolos. Esta politiquería ha hecho que sea cada vez más difícil mantener conversaciones constructivas sobre el futuro de la innovación en el cuidado de la salud. Ya vemos que esto sucede con la desinformación sobre la tecnología de ARNm y el acoso continuo a los científicos.

anuncio

Mientras tanto, más de una docena de empresas de atención médica ya están utilizando ChatGPT, un chatbot con tecnología de inteligencia artificial desarrollado por OpenAI, para una variedad de funciones. Pero no entendemos completamente las consecuencias de integrar estos grandes modelos de lenguaje en funciones de salud. Sorprendentemente, muchas de las conversaciones en curso sobre la formulación de políticas y la regulación de la IA se han centrado en los líderes de la industria tecnológica y no han utilizado plenamente la experiencia de los líderes de la industria del cuidado de la salud, que tienen conocimientos únicos sobre la aplicación de la IA en la salud y la medicina. Esto me recordó una poderosa escena de la película “Oppenheimer” en la que el científico titular intenta persuadir al presidente Truman sobre los peligros de la energía nuclear, sólo para que sus preocupaciones sean desestimadas.

La atención de los medios sobre estos rápidos avances en tecnología y las preocupaciones sobre el uso de datos de los consumidores también están presionando a los legisladores para que actúen. La semana pasada, el senador republicano Lindsey Graham y la senadora demócrata Elizabeth Warren reconocieron que “el Congreso es demasiado lento, carece de experiencia tecnológica” y subrayaron la importancia de crear una agencia reguladora bipartidista a través de la Ley de la Comisión de Protección al Consumidor Digital. La idea propuesta parece estar más centrada en las empresas de tecnología a gran escala, lo que no entiende por qué estas protecciones son necesarias para las aplicaciones de IA y los esfuerzos en el cuidado de la salud. Los estudios de investigación continúan destacando cómo las herramientas basadas en el aprendizaje automático pueden conducir a una atención médica inadecuada.

Tu dosis diaria de novedades en salud y medicina

La historia de Oppenheimer también ilustró cómo existe una desconexión entre los objetivos de la ciencia (como la transparencia, la colaboración y la búsqueda de la verdad) y los objetivos políticos, que siempre están en constante cambio. Comprender esto es particularmente urgente ahora, ya que el público aprende continuamente cómo la IA cambiará las industrias, incluida la atención médica.

anuncio

Sin embargo, la falta de claridad sobre cómo estos cambios afectarán la atención al paciente puede generar un entorno de miedo y desconfianza que, en última instancia, puede sofocar la innovación, porque la salud es mucho más personal que la economía. Los líderes de atención médica que utilizan estas tecnologías para crear aplicaciones digitales pueden desempeñar un papel importante como comunicadores científicos, por ejemplo, al tener una sección dedicada en sus materiales de comunicación a lo que los pacientes deben esperar de su tecnología.

Finalmente, debemos reorientar nuestros esfuerzos de innovación digital hacia cerrar brechas en las disparidades en la atención médica y tomar medidas para no marginar aún más a las poblaciones vulnerables. La historia de Oppenheimer es también un recordatorio del sufrimiento que se causó a las comunidades hispana y nativa americana en Nuevo México durante la época de la Prueba de la Trinidad. Estudios recientes ya están demostrando cómo los algoritmos digitales en la toma de decisiones en materia de atención médica pueden exacerbar las desigualdades. Los empresarios y formuladores de políticas de tecnología de atención médica deben garantizar que se implementen todas las estrategias necesarias de mitigación de sesgos, incluido el despliegue de conjuntos de datos representativos para crear aplicaciones digitales, para evitar consecuencias negativas para los pacientes desatendidos. Esta es también una de las formas más efectivas para que las empresas de salud digital generen confianza.

Estamos en un punto de inflexión en la aplicación de estas tecnologías en la atención sanitaria, no muy diferente de cómo fue la historia de Oppenheimer en la aplicación de la energía atómica al armamento. Los líderes políticos y científicos de aquella época no comprendían plenamente las implicaciones de largo alcance de las innovaciones nucleares. Estamos teniendo una conversación similar ahora. Algunos líderes de la industria tecnológica han abogado por una pausa en la investigación y el desarrollo de la IA generativa. Los principales problemas de este enfoque son que coloca a Estados Unidos en desventaja competitiva a nivel mundial y no aborda los problemas fundamentales que surgen de la integración de esta tecnología en diversas aplicaciones. Una estrategia profiláctica más eficaz para aliviar posibles ramificaciones dañinas sería reunir a las partes interesadas adecuadas, desarrollar marcos para guiar la dirección de esta increíble tecnología y crear asociaciones de datos globales que establezcan los estándares en torno al uso futuro de estas herramientas.

Aprender de los errores de juicio históricos puede proporcionar la orientación necesaria para diseñar los próximos pasos. Cualquiera que quiera innovar en IA para la atención sanitaria debería ver “Oppenheimer” y tomar notas.

Junaid Nabi es médico y estratega de atención médica y forma parte del Grupo de Trabajo sobre Consideraciones Regulatorias para la Salud Digital y la Innovación de la Organización Mundial de la Salud. Es miembro senior de nuevas voces en el Aspen Institute y miembro del milenio en el Atlantic Council.

Inteligencia artificial

tecnología de la salud

¡Noticias emocionantes! STAT ha trasladado su sección de comentarios a nuestra aplicación exclusiva para suscriptores, STAT+ Connect. Suscríbase a STAT+ hoy para unirse a la conversación o únase a nosotros en Twitter, Facebook, LinkedIn y Threads. ¡Sigamos conectados!

Para enviar una solicitud de corrección, visite nuestra página Contáctenos.