Las incógnitas de la Inteligencia Artificial

La Inteligencia Artificial ya está marcando nuestro día a día, en todos los ámbitos, y lo hará más en el futuro. ¿Que impacto puede llegar a tener para el oftalmólogo y su futuro profesional? Este documentado análisis del Prof. Fernández-Vigo aporta muy interesante proyección, partiendo de un caso acaecido con unos de sus pacientes. En todo caso, remarca, «en Medicina habría que evaluar si el uso de asistentes de IA podría mejorar las respuestas, reducir el agotamiento de los médicos y mejorar los resultados de los pacientes», aunque, apunta, «todo aboga por una complementariedad de funciones». Resalta igualmente la importancia para la profesión de «no perder la batalla de la comunicación» y de aprovechar al máximo el acceso y las posibilidades que brinda la IA con sus conocimientos enciclopédicos. Y es que, concluye, «la experiencia de un médico siempre será limitada, pero si la pone en coordinación con otros miles de médicos de todo el mundo, el avance científico será muy superior y la IA puede ayudar decisivamente. Por lo tanto, no estaremos ante una batalla perdida, probablemente sea una guerra ganada. Pero, eso sí, hay que adaptarse; si no, quedarás fuera de juego».

Profesor José A. Fernández-Vigo

¡¡Batalla perdida!!

Fue el primer pensamiento que me asaltó. Tardé en reaccionar porque me dejó estupefacto. ¡Está todo perdido!, ¿qué futuro tenemos?

Esta tormenta de ideas, de pocos segundos de duración, fue provocada por una vivencia en consulta traumática por lo sorprendente. La resumo: R.D. es un paciente de 45 años, que habíamos operado de catarata tres años antes. Venía a revisión con una importante disminución de agudeza visual; me sorprendió su tranquilidad y lo que había tardado en acudir a consulta. Tenía una opacidad de la cápsula posterior en su ojo dominante, ya que el otro era amblíope. Repito, me sorprendió su tranquilidad porque algo no encajaba: reducción de la AV a 4/10, en un profesional, conductor, deportista,… lógicamente, debería estar angustiado. Pero no lo estaba.

Cuando le comuniqué el diagnóstico y la solución me respondió: «sí, ya lo sabía», y a mi consecuente repregunta me contestó: «se lo pregunté al ChatGPT, que me dijo que tenía una opacidad de la cápsula posterior y me quedé muy tranquilo porque también me dijo que el tratamiento era muy sencillo».

Le corroboré lo que decía y pregunté intrigado si utilizaba mucho el ChatGPT. Asintió y añadió algo que me sorprendió y preocupó más: «también le pregunté cómo se ve cuando se tiene una opacidad de la cápsula posterior del cristalino, me lo describió con detalle e hizo un dibujo parecido a la visión que yo tenía. Como también tenía miedo de que pudiera ser un glaucoma le dije: ¿y cómo sería la visión en un glaucoma? Y me mostró la pérdida del campo visual».
Por supuesto que lo primero que pensé es que teníamos la batalla perdida, la Inteligencia Artificial puede sustituirnos y responder mejor ya que ninguno de nosotros dispone del tiempo y medios (ni paciencia) para una explicación tan detallada. Y no es una quimera, ya se ha demostrado en una trascendental publicación en JAMA (junio, 2023), cuando un chatbot generó respuestas más empáticas y de calidad a las preguntas que los pacientes plantearon en un foro en línea. Los resultados son desalentadores: los pacientes prefirieron hablar con un robot que con el médico, en el 78,6% de los casos, las respuestas de los médicos fueron significativamente más cortas que las de los chatbots. La proporción de respuestas calificadas como empáticas o muy empáticas fue mayor para el chatbot que para los médicos, con una tasa 9,8 veces mayor.
Por tanto, me quedé bastante preocupado sobre cuál podría ser nuestro papel en el futuro. Pasados los días, y analizando la situación mientras usaba ChatGPT, al cual me declaro adicto, me di cuenta que los ingenieros, a cuya tecnología tanto temía porque podía invadir irremediablemente nuestro campo, asociados a algunos ópticos con escasa conciencia, habían creado el monstruo que les iba a destruir a ellos.

Los ingenieros han desarrollado la Inteligencia Artificial y, equivocadamente para sus intereses, pero acertadamente para nosotros, la han puesto al alcance de todos. De tal manera que ya no necesitamos a los ingenieros para tener Inteligencia Artificial. Ellos fueron los que la inventaron, la mejoraron y ahora todos tenemos acceso a la Inteligencia Artificial que nos resuelve ¿casi? todos los problemas.

¿La Inteligencia Artificial tiene futuro?

El desarrollo de la IA es una incógnita pues, como veremos posteriormente, tiene grandes detractores, incluidos sus principales autores, pero grandes valedores. Así pues, ¿debemos hacer el esfuerzo de incorporarnos o ignorarla? ¿Va a suceder con la IA lo que aconteció con los ordenadores e Internet?
Como siempre es buena la perspectiva que nos da la historia para obtener lecciones, ¿qué pasó con esos avances tecnológicos en sus comienzos?
Durante las primeras etapas del desarrollo de los ordenadores se pensaba que serían herramientas altamente especializadas, destinadas casi exclusivamente a la investigación científica y militar. Los primeros ordenadores eran tremendamente complejos, de gran tamaño, ya que ocupaban laboratorios enteros, consumían gran cantidad de energía y precisaban de unos sistemas de refrigeración brutales, de tal manera que se suponía que muy pocos grupos de trabajo podrían disponer de ordenadores. Hasta el punto que, en 1943, Thomas Watson, presidente de IBM, dijo: «Creo que hay un mercado mundial para quizá cinco ordenadores». Aunque esta cita ha sido debatida en cuanto a su autenticidad, refleja el pensamiento predominante en las primeras etapas de la tecnología: los ordenadores no eran vistos como herramientas para el consumo masivo.

Sin embargo, en las décadas siguientes, varios avances tecnológicos transformaron los ordenadores en dispositivos más accesibles, económicos y compactos. Esto marcó un cambio de paradigma: los ordenadores dejaron de ser herramientas exclusivas de la investigación para convertirse en herramientas esenciales para la sociedad en general. Este proceso culminó cuando los visionarios Steve Jobs y Bill Gates entendieron el potencial de democratizar la informática en la llamada «revolución de los ordenadores personales».
Curiosamente, sucedió algo similar con Internet. Su historia está llena de momentos en los que se subestimó su impacto. En sus inicios, fue considerada una tecnología de nicho, con poca relevancia para el público general. La red fue vista como una herramienta técnica y académica, útil solo para investigadores y especialistas en tecnología, principalmente en universidades y laboratorios. Era impensable que tuviera un impacto más allá de este ámbito.

Por ello, hay varias lecciones que aprender de la historia para aplicar a la IA. Por ejemplo, se cometió el mismo error de predicción: subestimar tecnologías emergentes porque los cambios revolucionarios a menudo no se ven claros hasta que se desarrollan ecosistemas completos alrededor de ellas que las implementan. Este cambio refleja cómo, a menudo, las tecnologías más revolucionarias son las que inicialmente parecen irrelevantes o limitadas en su alcance.

Pero hay otras lecciones, quizás más importantes, para no caer en errores que condicionen o perviertan su uso. ¿Cuál sería la siguiente lección?

¿Todo es beneficio o hay riesgos en la aplicación de la IA?

La IA tiene pros y contras. Genera tal temor que algunos de sus padres han renunciado a continuar con su desarrollo. Por eso debemos consultar a los expertos, ajenos al desarrollo de la IA, para que evalúen sus riesgos y potencialidades. Y después veremos las respuestas de los padres de la IA que se han desvinculado del proyecto. El debate está abierto y será duro y profundo.

Harari, uno de los autores más influyentes de la actualidad, se puede considerar un observador neutral y por ello analizar su opinión es procedente.

Harari reconoce el potencial de la IA para revolucionar la Medicina y la Cirugía, pero también alerta sobre los desafíos éticos, sociales y profesionales que su implementación conlleva

En ‘Nexus’, su última obra, examina cómo las redes de información han moldeado la humanidad y aborda los desafíos y oportunidades que presenta la Inteligencia Artificial (IA) en diversos ámbitos, incluyendo la Medicina y la Cirugía ya que la IA médica puede cambiar el significado de los cuidados de salud, desplazando el enfoque de curar enfermedades a mejorar la salud de quienes ya están sanos. Harari reconoce el potencial de la IA para revolucionar la Medicina y la Cirugía, pero también alerta sobre los desafíos éticos, sociales y profesionales que su implementación conlleva. ¿Cuál es ese potencial revolucionario en la Medicina y cuáles los desafíos?

El potencial a desarrollar es enorme, las posibilidades inmensas:

• Diagnósticos más rápidos y precisos, reduciendo el riesgo de errores médicos.
• Avances en Medicina Personalizada gracias a los análisis de big data y creación de modelos de predicción que permiten prever cómo responderá un paciente a un tratamiento.
• Optimización de procedimientos quirúrgicos: robots quirúrgicos asistidos por IA, simulaciones previas para planificar procedimientos complejos.
• Monitorización remota y predicción de riesgos con sensores y dispositivos portátiles basados en IA, que monitorean a pacientes en tiempo real y alertan sobre signos de deterioro, así como la detección precoz de brotes infecciosos.
• Además, mejora la eficiencia administrativa ya que automatiza tareas, como la programación de citas, el gasto generado, la caducidad de productos, la codificación de facturas o el análisis de datos clínicos, permitiendo que los médicos dediquen más tiempo a la atención del paciente.

Por el contrario, existen riesgos muy significativos:

• Errores y confianza excesiva: si un modelo de IA falla o interpreta mal los datos, puede conducir a diagnósticos erróneos o tratamientos inadecuados. Una dependencia excesiva de la IA podría llevar a una reducción de las habilidades críticas de los profesionales. Y la IA falla,; por ello, en mi opinion, siempre debe ser supervisada por un médico.
• Privacidad y seguridad de los datos: El uso de grandes cantidades de datos médicos plantea riesgos de violaciones de privacidad y uso indebido de información sensible. Sistemas mal protegidos pueden ser blanco de ataques cibernéticos.
• Desigualdad en el acceso: las tecnologías avanzadas de IA pueden estar disponibles solo en centros bien financiados, ampliando la brecha entre pacientes de diferentes contextos socioeconómicos.
• Deshumanización de la atención médica: la IA puede desplazar a los humanos en ciertas interacciones clínicas.
• Responsabilidad legal y ética: determinar quién es responsable en caso de un error asociado a la IA (el médico, el desarrollador del software o el hospital) sigue siendo un desafío importante.
• Sesgos en los algoritmos: los modelos de IA entrenados con datos sesgados pueden perpetuar o amplificar desigualdades en la atención médica y esto puede ser gravísimo. Un algoritmo diseñado con un objetivo específico puede ser demoledor a la hora de conseguir ese objetivo ya que no tendra límites éticos. El relato que describe Harari con respecto a la masacre de los rohinyás en Myanmar es un ejemplo estremecedor.

Si nos salimos del área de la Medicina y Salud, ¿qué temen los padres de la IA que han criticado y en algunos casos se han desvinculado del proyecto?

Desde un punto de vista general, existen argumentos para el temor y la preocupación, siendo los más significativos:

• la posibilidad de que la IA escape al control humano,
• la pérdida o desplazamiento de millones de empleos por la automatización.
• Temor a que los avances rápidos en IA no sean acompañados por políticas regulatorias adecuadas.
• También, que la IA pueda ser utilizada para la desinformación, vigilancia masiva o conflictos bélicos. Estos temores han hecho que algunos pioneros se hayan salido del proyecto o han querido acotarlo de forma muy significativa.

Destacan algunos nombres muy relevantes y sus razones para alejarse o criticar el rumbo actual de la IA. Quizás el más significativo sea Geoffrey Hinton (conocido como el «padrino de las redes neuronales»), que en mayo de 2023 dejó su puesto en Google, mencionando sus preocupaciones sobre el desarrollo incontrolado de la IA. Otro pionero del aprendizaje profundo es Yoshua Bengio, que, aunque no se ha apartado completamente, ha expresado inquietudes similares a las de Hinton, como la necesidad de regular la IA para prevenir su mal uso y el potencial daño a la privacidad y la seguridad global.

Probablemente entre ellos haya temor a que se reproduzca el doloroso efecto llamado Oppenheimer o sentimiento de culpabilidad. Sus reticencias al desarrollo incontrolado de la (IA) y sus posibles consecuencias catastróficas es comparable en varios aspectos con la experiencia de J. Robert Oppenheimer, el físico que lideró el desarrollo de la bomba atómica en el Proyecto Manhattan y cuyo dilema ético ha sido llevado a la gran pantalla con enorme éxito. ¿En qué se parece Oppenheimer a Hinton? En que ambos lideraron una innovación revolucionaria con consecuencias imprevisibles.

Los padres de la IA han desarrollado sistemas que prometen revolucionar industrias y resolver problemas complejos, pero también enfrentan el temor de que la IA pueda causar daños imprevisibles si no se controla adecuadamente. Temen haber creado un monstruo.

Hay consideraciones éticas a destacar y que también son comunes, como el sentimiento de responsabilidad moral: Oppenheimer, después de ver las consecuencias devastadoras de las bombas atómicas en Hiroshima y Nagasaki, expresó sus remordimientos. Su famosa frase, citando el Bhagavad Gita, «Ahora me he convertido en la Muerte, el destructor de mundos», refleja su conflicto interno sobre el uso de la tecnología que ayudó a crear. Geoffrey Hinton y otros ingenieros han expresado preocupaciones éticas y su sentimiento de responsabilidad sobre cómo sus innovaciones podrían usarse para el mal o escapar del control humano.

Los padres de la IA han desarrollado sistemas que prometen revolucionar industrias y resolver problemas complejos, pero también enfrentan el temor de que la IA pueda causar daños imprevisibles si no se controla adecuadamente. Temen haber creado un monstruo

Oppenheimer, en el período posterior a la Segunda Guerra Mundial, abogó por el control internacional de la energía nuclear para evitar una carrera armamentista descontrolada. Sus advertencias no siempre fueron escuchadas, y se encontró en conflicto con quienes buscaban aprovechar la tecnología sin restricciones. Hinton y cols. están pidiendo regulaciones internacionales y advertencias contra el desarrollo desenfrenado de sistemas de IA avanzados que podrían ser utilizados para manipulación, vigilancia o incluso en conflictos armados.

«El riesgo de liberar al genio de la lámpara»

El dilema del «genio liberado de la lámpara» se usa como metáfora para describir el acto de desatar un poder o una tecnología que puede ser difícil de controlar, considerando que una vez que se crea la tecnología es prácticamente imposible «deshacerla».

La analogía entre Oppenheimer y los pioneros de la IA resalta la necesidad de abordar las implicaciones éticas y sociales de las tecnologías disruptivas antes de que sus consecuencias negativas se materialicen. Así como el control nuclear se convirtió en una prioridad global, el desarrollo de marcos regulatorios y éticos para la IA es crucial para evitar un «Hiroshima digital».

Desde un punto de vista histórico y filosófico, distintas obras literarias clásicas muy reconocidas han abordado esta temática, lo que indica que en todas las revoluciones científicas se plantean los mismos problemas: «El aprendiz de brujo» de Goethe, «Aladino y la lámpara maravillosa de la colección de las Mil y una noches» y «Merlin el encantador», de T.H White. Ya en 1797, Goethe lo plasmaba en su obra en el contexto de la Revolución Industrial, abordando la misma problemática que plantean los detractores de la IA.

Estas preocupaciones no implican un rechazo absoluto a la IA, sino una llamada de atención a la cautela, regulación y desarrollo ético para garantizar que los beneficios de la IA no se vean eclipsados por sus riesgos.

Además, existe una manifiesta preocupación por la capacidad de la IA para tomar decisiones autónomas, lo que podría reducir la intervención humana en procedimientos médicos y quirúrgicos. Aunque esto podría aumentar la precisión y eficiencia, también existe el riesgo de que la dependencia excesiva en la IA disminuya la capacidad crítica de los profesionales de la salud y genere dilemas éticos sobre la responsabilidad en caso de errores.

Aunque los miembros del foro de Oftalmólogos Humanistas porfiamos por mantener elevada la moral y el aspecto humanista de nuestra profesión, protegiéndola del intrusismo y de aquellos políticos que buscan degradarla y reducir nuestro prestigio científico, las dificultades son cada vez mayores. La mercantilización de la Oftalmología a través de grupos y fondos de inversión, que consideran a nuestra especialidad como un negocio y no como un servicio, asociadas a un abuso en el uso de la tecnología, dificultarán más esa humanización. Y no podemos perder la batalla de la interacción médico-paciente.

De la misma forma que con los ordenadores se difundió su utilización, así sucederá con la Inteligencia Artificial. Ya no necesitaremos consultar a los expertos en Inteligencia Artificial, puesto que ya tenemos nosotros acceso directo. Así que los creadores del monstruo han sido engullidos por el mismo. Actualmente podemos solicitarle un dibujo, que nos componga una poesía o una canción, que nos redacte un ensayo clínico, que nos busque bibliografía o cualquier otra tarea (véanse las figuras que ilustran este texto).

En Medicina habría que evaluar si el uso de asistentes de IA podría mejorar las respuestas, reducir el agotamiento de los médicos y mejorar los resultados de los pacientes. Todo aboga por una complementariedad de funciones; tampoco podemos perder la batalla de la comunicación.

Y, volviendo al caso inicial: los pacientes tienen acceso a la Inteligencia Artificial, pero nosotros también. Por lo tanto, ante cualquier duda diagnóstica, ante cualquier problema que tengamos dificultades para resolver, podemos hacer la misma consulta que hace el paciente. Tomemos en consideración que los conocimientos de los oftalmólogos no son enciclopédicos, pero los de la IA sí. Por otra parte, nosotros tenemos otro tipo de conocimientos que nos permiten tener una visión global del conjunto, formamos redes de información que nos comunicamos sistemáticamente a través de publicaciones, congresos, comunicaciones, etc. y, tal como dice Harari, las redes de información son el mayor poder. La experiencia de un médico siempre será limitada, pero si lo pone en coordinación con otros miles de médicos de todo el mundo, el avance científico será muy superior y la IA puede ayudar decisivamente. Por lo tanto, no será una batalla perdida, probablemente sea una guerra ganada.
Pero, eso sí, hay que adaptarse; si no, quedarás fuera de juego.

Bibliografía recomendada:

1. ‘Nexus’. Una breve historia de las redes de Información desde la edad de Piedra hasta la IA de Yuval Noah Harari (septiembre, 2024).
2. Co-Inteligencia: vivir y trabajar con la IA de Ethan Mollick (septiembre, 2024).

Nota del autor: los dibujos que figuran en el texto corresponden a ideas del autor plasmadas mediante IA.