[コンテンツにスキップ]

一度に1つのアルゴリズムで健康の公平性を改善する

データとアルゴリズムは、医療業界で頻繁に使用され、専門医療管理の恩恵を受ける可能性のある集団を特定します。アルゴリズムを利用するデータ駆動型プログラムは、病気の管理、健康上の結果を改善し、ケアのコストを削減することができます。また、ケアへのアクセスに関して、人間の意思決定からバイアスを取り除く可能性もあります。 

しかし、アルゴリズム自体にバイアスがかかるとどうなりますか?最近の研究では、ヘルスケアのアルゴリズムが[1] およびその他のフィールド[2] これらのコンピューターベースの計算を構築するために使用されるデータに反映される体系的な人種差別のために、特定の集団に対してバイアスを示す可能性があります。たとえば、ヘルスケアでは、ケアのコストと利用に関するデータは、問題の重大度の指標として信頼されることがよくあります。ただし、調査によると、黒人、先住民族、および有色人種(BIPOC)は、同様の健康状態にもかかわらず、通常、非ヒスパニック系白人よりも低い割合で医療を消費します。[3] この例では、使用率またはコストベースの指標への過度の依存は、BIPOC集団の健康問題を過小認識することによってバイアスを永続させる可能性があります。

最近、BeaconHealthOptionsとConnecticutBehavioralHealth Partnership(CT BHP)は、住宅支援と国の資金による住宅バウチャーへのアクセスを提供することにより、ホームレスのメディケイド受給者の健康と福祉を改善することを目的とした14か月のプロジェクトに着手しました。彼らの最初のアルゴリズムソリューションがテストされ、コネチカット住宅エンゲージメントおよびサポートサービス(CHESS)プログラムに参加するためにヒスパニック民族の個人を過小選択するバイアスが明らかになりました。次に、分析とイノベーションのSVPであるロバートプラント博士と健康研究科学者のクリスタノアム博士が率いるビーコンチームは、公平性を緩和および改善するための新しいアルゴリズムの開発に着手しました。

CHESSの初期アルゴリズムは、入院患者の入院やその他の利用指標に関するデータを利用していました。ビーコンは、このアルゴリズムが非ヒスパニック系白人を過剰に選択し、ヒスパニック系の遺産を持つ人々を過小選択していることを発見しました。コスト削減を含めると、バイアスはさらに大きくなりました。 

公平性を向上させるために、データサイエンティストは、診断ベースの併存疾患指数に焦点を移しました。これは、来年に重病または死亡する可能性が最も高い人を予測するために使用されます。このアプローチはバイアスを大幅に減らしましたが、十分ではありません。 Beaconは、ヒスパニックがプログラムに含まれる可能性がまだ大幅に低いことを発見しました。これは、アルゴリズムに他の調整が必要であることを示しています。

アルゴリズムによって選択された人口がホームレスを経験している総人口により近くなることを確実にするために、メンバーが彼らの生涯を通して避難所で過ごした日数が含まれました。このアプローチを利用して、博士。 PlantとNoamは、アルゴリズムに合格したメンバーの民族的/人種的構成が、生涯を通じて避難所でより多くの日数を過ごしたメンバーが選択された場合、総人口により近くなることを発見しました。

CT BHPとのビーコンの作業は進行中であり、脆弱な人々の公平性を改善するために私たちが行っている進歩の一例にすぎません。 Drsについてもっと知るために。 PlantとNoamは、役立つすべきこととすべきでないことを含め、アルゴリズムからバイアスをうまく取り除くことに取り組んでおり、全国精神福祉評議会の全国会議でのポスターセッションに参加する計画を立てています。 NATCON 2022、4月11日月曜日にワシントンDCで。彼らのセッションには以下が含まれます。

  • アルゴリズムにおけるバイアスの存在について話す簡単な文献レビュー
  • バイアスの導入の対象となる可能性のある専門集団を特定するために一般的に使用される指標
  • アルゴリズムのバイアスをテストする方法
  • 差別的と見なされる可能性のあるバイアス緩和の特定の方法に関連するリスク
  • 健康の社会的決定要因の指標を組み込むことで、バイアスを軽減するのにどのように役立つか
  • クライアントまたはメンバーの選択におけるバイアスを拡大および軽減するアルゴリズムの実際の例

[1] Obermeyer et al。、Science 366、447–453(2019)人口の健康を管理するために使用されるアルゴリズムにおける人種的バイアスの分析

[2] NY Times 2020年12月7日–不完全なアルゴリズムでも刑事司法制度を改善できる2020年2月7日–自由を与える、またはそれを奪うアルゴリズム

[3] クレームは1年間引き出され、HMISデータがロードされた月から4か月のギャップが生じました。メンバーがその年にメディケイドの資格を持っていた日数に関係なく、データが取得されました。


コメントはありません

コメントを残す

あなたのメールアドレスが公開されることはありません。必須フィールドは、マークされています *
不適切なコメントや目前のトピックに関係のないコメントは公開されません。

トップリンク
ja日本語