ChatGPT: 医療格差の是正におけるもろ刃の剣

ChatGPT や Bard など、急速に進化している生成 AI は、自然言語処理から画像生成までの複数の領域で大きな可能性を持つ技術です。これらの技術は、正しい使い方をすれば、さまざまなセクターで不平等を是正し、公平性を促進する強力なツールとなり得ます。しかし、潜在的なリスクや結果に対する懸念も指摘されています。ここでは、医療格差を是正するために生成 AI を活用するメリットと課題、そして従来の自動化がもたらす意外なメリットについても説明します。

生成 AI のメリット

より効果的な教育へのアクセス

ヘルスケアリテラシーは健康の社会的決定因子であり、それは教育から始まります。生成 AI は、子供から大人まで、各自の年齢、バックグラウンド、ニーズ、強み、弱みに合わせて個別に最適化した学習体験を作り出すことができます。このテクノロジーにより、より適切で個別に最適化した教育コンテンツやリソースの開発が可能になり、教員免許を持つ教師の不足を一部補うこともできるため、社会から疎外された人々や恵まれない人々も質の高い教育を受けることができるようになります。ただし、教師に置き換わる可能性は、今の時点ではありません。

言語の壁を取り払う

生成 AI を使用して高度な翻訳システムを開発することで、異なる言語を話す人々が効果的にコミュニケーションできるようになります。これにより、グローバルなコラボレーションを促進し、社会から疎外されたコミュニティに力を与え、貴重な医療資源の利用を促すことができます。言語、年齢、教育レベル、文化など、さまざまな要素に合わせて、患者向けの資料を簡単に作成することもできます。将来的には、病歴や保険加入状況まで反映されるようになるかもしれません。

雇用機会の充実

所得もまた、健康の社会的決定因子の 1 つです。このテクノロジーを活用することで、採用プロセスを効率化し、採用活動における偏見や差別を特定、低減することができます。このテクノロジーは、将来の労働力に求められる資質やスキルを予測することもできるため、政府や組織は、恵まれないコミュニティがより良い雇用機会にアクセスできるよう、的を絞ったスキル開発プログラムを策定できるようになります。

金融包摂

生成 AI により、複雑な財務データを分析することで、低所得者や銀行口座を持たない個人のニーズに合わせた生体認証による顧客確認 (KYC) 手法など、革新的な金融商品や金融サービスを、再開発機関や企業パートナーと連携しながら開発できるようになります。このテクノロジーにより、社会から疎外されたコミュニティが信用取引や貯蓄、保険を容易に利用できるようになり、金融包摂の促進や経済的不平等の軽減につながる可能性があります。また、金融リテラシーが高くない人向けに、搾取するような融資を指摘したり、代替手段を提案したりすることもできます。

医療の改善

生成 AI により、複雑な医療データのパターンを特定できるため、さまざまな層の人々を対象に迅速な診断とより効果的な治療計画を導き出したり、人々の健康に関する研究を強化したりすることができます。このテクノロジーにより、過去の医療記録を分析し、患者のニーズや障害を予測することで、予期せぬインサイトが明らかになったり、治療結果が向上したり、格差を解消できる可能性もあります。

リソースの分配

公共政策の観点から見ると、AI アルゴリズムが複雑な過去のデータを分析し、リソースを公平に分配する最も効果的な方法を決定することができます。たとえば、生成 AI は、政府の資金や援助を最も必要とするコミュニティに割り当てることができるため、リソースが効率的に使用され、不平等の解消に意味のある影響を与えることができます。

生成 AI の課題

不平等を持続させるデータの偏り

生成 AI はデータに依存して予測を行い、コンテンツを生成しますが、使用するデータが偏っている、典型的でない、あるいは不完全である場合、重大な欠陥を生むおそれがあります。偏ったデータや間違った仮定を使用すると、既存の不平等を反映した偏った AI モデルになり、疎外されたコミュニティに不当な影響を与えることになります。2019 年の研究では、過去のコストに基づいて医療ニーズを予測するため、医療提供機関や保険会社が 2 億人に対して使用している主要なアルゴリズムについて調査が行われました。このアルゴリズムは、黒人の患者は医療リスクが低いため、より低コストで済むと結論付けました。実際には、低所得者層が医療を受けることが少なかったり、偏見を持っているような医師を信頼しなかったりする事実が反映されていないだけでした。そのため、ニーズが高いにもかかわらず、医療にかかる費用は低くなっていたのです。

皮肉なことに、ロボティック・プロセス・オートメーション (RPA) のような従来のルールベースの自動化が紛れもない優位性を発揮するのは、このようなケースです。RPA は通常、決定論的なデータドリブン型の意思決定と行動に基づいています。ルールは明確に定義され、安定し、コンセンサス主導で、ベストプラクティスやポリシーとして理解されています。意思決定の根拠が明確であり、このようなルール駆動型のプロセスは、隠れたバイアスの影響を受けにくいと言えます (ルール自体に偏りがある可能性はありますが)。たとえば、ルールベースのトリアージは、理論的に言って、臨床医の先入観や経験によって左右される医療診断や治療からバイアスを取り除き、医療へのアクセスを改善することができます。

雇用を奪う存在

生成 AI は、新たな雇用機会を生み出すことができる一方で、雇用を奪う可能性もあります。自動化は、高いスキルを必要としない仕事に偏った影響を与え、所得格差を拡大し、医療格差を悪化させるかもしれません。AI が広く普及した場合、ある試算では、2030 年までに労働者の 15 ～ 30%、つまり世界で 4 億人が職を失う可能性があるとされています。したがって、影響を受ける人々のスキル転換やスキルアップは、いかなる AI の導入においても常に考慮する必要があります。

デジタルデバイド

テクノロジーへのアクセスやデジタルリテラシーが地域によって異なるため、生成 AI の恩恵が公平に行き渡らないおそれがあります。デジタルデバイドの拡大により、特定のグループが AI を活用したソリューションの恩恵を受けることができず、さらなる格差が生じる可能性があります。ソーシャルインパクトの取り組みは、デジタル技術の恩恵を最も受けられない人々に合わせて徐々に調整する必要があるかもしれません。一方、世界の人口のうち、スマートフォンやフィーチャーフォンを現在所有しているのは 91.40% と推定されています。

悪用される可能性

悪意ある人間が、ディープフェイクの作成、フェイクニュースの生成、サイバー攻撃の自動化など、不正行為に生成 AI を悪用するおそれがあります。AI テクノロジーの悪用は、デジタルシステムに対する信頼を損ない、社会的に弱い立場の人々が顕著に影響を受ける可能性があります。逆に、正真正銘の真実であっても無視されることがあります。このような不正使用を検知し、防止する AI 検知ツールのような先進的な技術を開発する新興企業には、商機があります。

AI の適切な活用

生成 AI には、不平等を解消する技術として大きな期待が集まっていますが、同時に取り組むべき大きな課題もあります。その潜在能力を良い方向に活用するためには、倫理的な AI 開発、偏りのないデータ、デジタルインフラ、教育に対する投資が極めて重要になります。生成 AI が幼い子供からティーンエイジャーに成長する過程において、私たちは AI が触れるもの、その目的、モラル、義務に関して方向性を定めなければなりません。このテクノロジーを責任を持って開発すれば、生成 AI が人間の生産性や価値を損なうことはなく、むしろ補強するような未来を築くことができるのです。