ChatGPT: Un arma de doble filo para reducir la disparidad en atención médica

ChatGPT, Bard y otras IA generadoras, son tecnologías en rápida evolución con enorme potencial en diversos ámbitos, desde procesamiento natural del lenguaje hasta generación de imágenes. En las manos adecuadas, estas pueden ser herramientas poderosas para reducir la desigualdad y promover la equidad en diversos sectores. Sin embargo, también son motivo de preocupación por sus posibles riesgos y consecuencias. Profundicemos en las ventajas y los retos del uso de la IA generadora para abordar la disparidad en la atención médica y los beneficios inesperados de la automatización convencional.

Ventajas de la IA generadora

Acceso a una educación más eficaz

La información en materia de atención médica es un determinante social de la salud, y empieza por la educación. La IA generadora puede crear experiencias de aprendizaje personalizadas para niños o adultos, adaptándolas a su edad, antecedentes, necesidades, fortalezas y debilidades. Esta tecnología permite desarrollar contenidos y recursos educativos más pertinentes y personalizados, lo que compensa en parte la escasez de profesores cualificados y aumenta el acceso a una educación de calidad para las comunidades marginadas y desfavorecidas. ¿Sustituirá esta tecnología a los profesores? No por ahora.

Eliminación de barreras lingüísticas

La IA generadora puede utilizarse para desarrollar sistemas de traducción avanzados que permitan a personas de distintos orígenes lingüísticos comunicarse de forma eficaz. Esto puede fomentar la colaboración mundial, empoderar a las comunidades marginadas y facilitar el acceso a valiosos recursos de atención médica. Los materiales para el paciente pueden personalizarse fácilmente en cuanto a idioma, edad, nivel educativo, cultura y muchos otros factores. En el futuro, podrían incluir también los antecedentes médicos y la cobertura del seguro.

Mejorar las oportunidades de empleo

Los ingresos son otro determinante social de la salud. Esta tecnología puede usarse para agilizar el proceso de contratación, la identificación y reducción de prejuicios y la discriminación en las prácticas de contratación. También puede predecir las necesidades futuras de fuerza de trabajo, lo que permite a gobiernos y organizaciones desarrollar programas específicos de desarrollo de competencias para ayudar a las comunidades desfavorecidas a acceder a mejores oportunidades de empleo.

Inclusión financiera

La IA generadora puede analizar información financiera compleja, lo que permite el desarrollo de productos y servicios financieros innovadores, como métodos biométricos Conozca a su cliente (KYC, del inglés Know Your Customer) adaptados a las necesidades de las personas con bajos ingresos y sin acceso a servicios bancarios, posiblemente en colaboración con agencias de reurbanización y asociados corporativos. Esta tecnología puede ayudar a facilitar el acceso a créditos, cuentas de ahorro y seguros a las comunidades marginadas, promoviendo así la inclusión financiera y reduciendo la desigualdad económica. También puede alertar ante préstamos abusivos y sugerir alternativas a las personas con escasos conocimientos financieros.

Mejora de la atención médica

La IA generadora puede ayudar a identificar patrones en la información médica compleja, lo que agiliza los diagnósticos y permite crear planes de tratamiento más eficaces para las subpoblaciones y fomenta la investigación sobre salud pública. Mediante el análisis de la historia clínica y la predicción de las necesidades y barreras de los pacientes, esta tecnología puede hacer aflorar ideas inesperadas, mejorar los resultados de la atención, y posiblemente reducir las disparidades.

Distribución de recursos

Desde el punto de vista de las políticas públicas, los algoritmos de IA pueden analizar información compleja de antecedentes médicos a fin de decidir las formas más eficaces de distribución equitativa de los recursos. Por ejemplo, la IA generadora puede ayudar a asignar fondos y ayudas financieras públicas a las comunidades que más lo necesitan, asegurando así que los recursos se utilicen de forma eficiente y ayuden a reducir significativamente la desigualdad.
 

Retos de la IA generadora

Sesgos en la información que perpetúan la desigualdad

La IA generadora depende de información para hacer predicciones y generar contenidos, lo que puede suponer un importante inconveniente si la información utilizada está sesgada, es poco representativa o está incompleta. El uso de información sesgada o suposiciones erróneas puede conducir a modelos de IA sesgados que reflejen las desigualdades existentes y afecten injustamente a las comunidades marginadas. En el 2019, un estudio examinó un importante algoritmo utilizado por proveedores y compañías aseguradoras sobre 200 millones de personas, para predecir sus necesidades de salud en función de los costos históricos. El algoritmo concluyó que los pacientes de raza negra tenían menos riesgos médicos porque incurrían en menos costos. En realidad, falló al no tomar en cuenta el hecho de que los grupos con menores ingresos reciben menos atención y confían menos en los médicos que no les parecen imparciales. Acceden a menos recursos de atención médica, por lo que el costo es menor a pesar de la mayor necesidad.

Irónicamente, es aquí donde la automatización basada en reglas convencionales, como la automatización robótica de procesos (RPA, del inglés Robotic Process Automation), ofrece una ventaja innegable. La RPA suele basarse en decisiones y acciones deterministas basadas en información, en las que las reglas están bien definidas, son estables, se basan en un consenso y se aceptan como las prácticas o políticas recomendadas. La justificación de las decisiones será clara y tales procesos basados en reglas no serán susceptibles de sesgos ocultos (aunque las propias reglas puedan estar sesgadas). Por ejemplo, el triaje basado en reglas podría eliminar, en teoría, los sesgos en el diagnóstico médico y la terapia, que podrían verse influidos por las ideas preconcebidas y la experiencia del médico, y mejorar el acceso a la atención.

Pérdida de puestos de trabajo

Si bien la IA generadora puede crear nuevas oportunidades de empleo, también puede ser causa de pérdida de puestos de trabajo. La automatización puede afectar de forma desproporcionada los empleos que requieren poca cualificación, aumentando así la desigualdad en los ingresos y profundizando la brecha de atención médica. Si la IA se adopta de forma generalizada, una estimación indica que entre el 15 y el 30 % de los trabajadores, es decir, 400 millones de personas en el mundo, podrían perder su empleo de aquí al 2030. Así pues, en toda aplicación de la IA habrá que tener siempre en cuenta la reconversión profesional o mejora de cualificaciones de las poblaciones afectadas.

La brecha digital

Es posible que los beneficios de la IA generadora no se distribuyan equitativamente, ya que el acceso a la tecnología y a los conocimientos digitales varían de una comunidad a otra. El ensanchamiento de la brecha digital podría dar lugar a que determinados grupos no pudieran beneficiarse de las soluciones basadas en la IA, lo que aumentaría las disparidades. Es posible que los esfuerzos de impacto social tengan que reducirse al mínimo común denominador digital. Por otro lado, hoy se estima que el 91,40 % de la población mundial posee un teléfono inteligente o moderno.

Posible uso indebido

Los delincuentes podrían explotar la IA generadora con fines maliciosos, como la creación de imágenes y videos ultrafalsos, la generación de noticias falsas o la automatización de ciberataques. El uso indebido de la tecnología de IA podría socavar la confianza en los sistemas digitales, afectando de forma desproporcionada a las poblaciones vulnerables. Por el contrario, incluso las verdades de buena fe podrían ser ignoradas. Estamos ante una oportunidad para que las nuevas empresas emergentes desarrollen tecnología avanzada como los detectores de IA para identificar y prevenir esos usos indebidos.

Cómo controlar la IA para bien

La IA generadora tiene un gran potencial para reducir la desigualdad, pero también plantea importantes retos que se deben abordar. Para aprovechar su potencial de hacer el bien, es crucial invertir en desarrollo ético de la IA, imparcialidad de la información, infraestructura digital y educación. A medida que la IA generadora pasa de la infancia a la adolescencia, estamos obligados a controlar aquello a lo que está expuesta, su propósito, sus principios morales y sus deberes. Si desarrollamos esta tecnología de forma responsable, podremos construir un futuro en el que la IA generadora sume, en lugar de restar, a la productividad y el valor humano.