ChatGPT : Une arme à double tranchant pour réduire les disparités en matière de soins de santé

ChatGPT, Bard et d'autres IA génératives sont des technologies qui évoluent rapidement et dont le potentiel est énorme dans de nombreux domaines, du traitement du langage naturel à la génération d'images. Entre de bonnes mains, ces outils peuvent s'avérer très utiles pour réduire les inégalités et promouvoir l'équité dans différents secteurs. Cependant, ils soulèvent également des inquiétudes quant aux risques et aux conséquences. Examinons les avantages et les défis de l'utilisation de l'IA générative pour lutter contre les disparités en matière de soins de santé et l'avantage inattendu de l'automatisation conventionnelle.

Avantages de l'IA générative

Accès à une éducation plus efficace

La sensibilisation aux questions de santé est un déterminant social de la santé, et elle commence par l'éducation. L'IA générative peut créer des expériences d'apprentissage personnalisées pour les enfants ou les adultes, en s'adaptant à leur âge, à leurs antécédents, à leurs besoins, à leurs forces et à leurs faiblesses. Cette technologie permet de développer des contenus et des ressources pédagogiques plus pertinents et personnalisés, et compense en partie la pénurie d'enseignants qualifiés, améliorant ainsi l'accès à une éducation de qualité pour les communautés marginalisées et défavorisées. Cette technologie va-t-elle remplacer les enseignants ? Pas à ce stade.

Suppression des barrières linguistiques

L'IA générative peut être utilisée pour développer des systèmes de traduction avancés, permettant à des personnes issues de milieux linguistiques différents de communiquer efficacement. Cela peut favoriser la collaboration à l'échelle mondiale, contribuer à l'autonomisation des communautés marginalisées et faciliter l'accès à des ressources précieuses en matière de soins de santé. Les documents destinés aux patients peuvent facilement être personnalisés en fonction de la langue, de l'âge, du niveau d'éducation, de la culture et de nombreux autres facteurs. À l'avenir, ils pourront même inclure les antécédents médicaux et la couverture d'assurance.

Amélioration des possibilités d'emploi

Le revenu est un autre déterminant social de la santé. Cette technologie peut être utilisée pour rationaliser le processus de recrutement, en identifiant et en réduisant les préjugés et la discrimination dans les pratiques d'embauche. Elle peut également prédire les besoins futurs en main-d'œuvre, ce qui permet aux gouvernements et aux organisations d'élaborer des programmes ciblés de développement des compétences pour aider les communautés défavorisées à accéder à de meilleures opportunités d'emploi.

Inclusion financière

L'IA générative peut analyser des données financières complexes, permettant le développement de produits et services financiers innovants tels que des méthodes biométriques de connaissance du client (KYC) adaptées aux besoins des personnes à faible revenu et non bancarisées, peut-être en partenariat avec des agences de réaménagement et des entreprises partenaires. Cette technologie peut faciliter l'accès au crédit, à l'épargne et à l'assurance pour les communautés marginalisées, en promouvant l'inclusion financière et en réduisant les inégalités économiques. Elle peut également signaler les prêts abusifs et proposer des solutions alternatives aux personnes ayant de faibles connaissances financières.

Amélioration des soins de santé

L'IA générative peut aider à identifier des modèles dans des données médicales complexes, ce qui permet d'établir des diagnostics plus rapides et des plans de traitement plus efficaces pour des sous-populations et d'améliorer la recherche sur la santé des populations. En analysant les dossiers médicaux historiques et en prédisant les besoins des patients et les obstacles auxquels ils sont confrontés, cette technologie peut apporter des informations inattendues, améliorer les résultats des soins et, éventuellement, réduire les disparités.

Répartition des ressources

Du point de vue des politiques publiques, les algorithmes d'IA peuvent analyser des données historiques complexes pour déterminer les moyens les plus efficaces de distribuer les ressources de manière équitable. Par exemple, l'IA générative peut aider à allouer des fonds publics et des aides aux communautés qui en ont le plus besoin, en veillant à ce que les ressources soient utilisées efficacement et qu'elles aient un impact significatif sur la réduction des inégalités.
 

Les défis de l'IA générative

Des données partiales qui perpétuent les inégalités

L'IA générative s'appuie sur des données pour effectuer des prédictions et générer du contenu, ce qui peut constituer un inconvénient important si les données utilisées sont partiales, non représentatives ou incomplètes. L'utilisation de données partiales ou d'hypothèses erronées peut conduire à des modèles d'IA biaisés qui reflètent les inégalités existantes et ont un impact injuste sur les communautés marginalisées. En 2019, une étude a été menée sur un algorithme majeur utilisé par les prestataires et les assureurs sur 200 millions de personnes pour prédire les besoins en matière de soins de santé sur la base des coûts historiques. L'algorithme a conclu que les patients noirs présentaient des risques médicaux moindres parce leurs coûts étaient moins élevés. En réalité, l'étude ne tenait pas compte du fait que les groupes à faibles revenus reçoivent moins de soins et font moins confiance aux médecins qui semblent partiaux. Ils ont accès à moins de soins, et de ce fait, le coût des soins est moins élevé, même si les besoins sont plus importants.

Paradoxalement, c'est là que l'automatisation conventionnelle basée sur des règles, comme l'automatisation des processus par la robotique (RPA), offre un avantage indéniable. La RPA est généralement fondée sur des décisions et des actions déterministes basées sur des données, où les règles sont bien définies, stables, consensuelles et considérées comme les meilleures pratiques ou politiques. La justification des décisions est claire et ces processus fondés sur des règles ne sont pas susceptibles d'être entachés de préjugés (bien que les règles elles-mêmes puissent l'être). Par exemple, le tri basé sur des règles pourrait théoriquement éliminer les biais du diagnostic médical et de la thérapie, qui peuvent être influencés par les idées préconçues et l'expérience du clinicien, et améliorer l'accès aux soins.

Déplacement de l'emploi

Si l'IA générative peut créer de nouvelles opportunités d'emploi, elle peut aussi entraîner des déplacements d'emplois. L'automatisation pourrait affecter de manière disproportionnée les emplois peu qualifiés, augmentant les inégalités de revenus et exacerbant la fracture sanitaire. Si l'IA est adoptée à grande échelle, une estimation indique que 15 à 30 % des travailleurs, soit 400 millions de personnes dans le monde, pourraient perdre leur emploi d'ici à 2030. Par conséquent, toute mise en œuvre de l'IA devra toujours tenir compte de la requalification des emplois ou de l'amélioration des compétences des populations concernées.

Fracture numérique

Les avantages de l'IA générative peuvent ne pas être équitablement répartis, car l'accès à la technologie et à la culture numérique varie d'une communauté à l'autre. L'élargissement de la fracture numérique pourrait empêcher certains groupes de bénéficier des solutions basées sur l'IA, ce qui aggraverait les disparités. Les efforts en matière d'impact social pourraient devoir être ramenés au plus petit dénominateur numérique commun. D'autre part, on estime que 91,40 % de la population mondiale possède aujourd'hui un smartphone ou un téléphone portable.

Mauvais usage potentiel

Des acteurs malveillants pourraient exploiter l'IA générative à des fins malveillantes, comme la création de deepfakes, la production de fausses nouvelles ou l'automatisation de cyberattaques. L'utilisation abusive de la technologie de l'IA pourrait miner la confiance dans les systèmes numériques, affectant de manière disproportionnée les populations vulnérables. Inversement, même les vérités de bonne foi peuvent être ignorées. C'est l'occasion pour les startups de développer des technologies avancées telles que les détecteurs d'IA pour détecter et prévenir de tels abus.

Mettre l'IA au service du bien

L'IA générative est extrêmement prometteuse pour réduire les inégalités, mais elle pose également des difficultés importantes qui ne doivent pas être négligées. Pour exploiter le potentiel de l'IA pour la bonne cause, il est crucial d'investir dans le développement éthique, les données impartiales, l'infrastructure numérique et l'éducation. Au fur et à mesure du développement de l'IA générative, nous devons façonner ce à quoi elle est exposée, son objectif, sa morale et ses devoirs. Si nous développons cette technologie de manière responsable, nous pourrons construire un avenir où l'IA générative sera un atout pour la productivité et la valeur humaines, et non un danger.