[跳至内容]

一次改进一种算法的健康公平性

医疗保健行业经常使用数据和算法来识别可能从专业护理管理中受益的人群。利用算法的数据驱动程序可以改善疾病管理、健康结果并降低护理成本。在获得护理方面,它们还有可能消除人类决策中的偏见。 

但是当算法本身有偏见时会发生什么?最近的研究表明,医疗保健中的算法[1] 和其他领域[2] 由于系统性种族主义,可能会对某些人群表现出偏见,这反映在用于构建这些基于计算机的计算的数据中。例如,在医疗保健领域,有关成本和护理利用率的数据通常被视为问题严重程度的指标。然而,研究表明,尽管健康状况相似,但黑人、土著和有色人种 (BIPOC) 的医疗保健消费率通常低于非西班牙裔白人。[3] 在这个例子中,过度依赖利用率或基于成本的指标可能会因对 BIPOC 人群的健康问题认识不足而使偏见长期存在。

最近,Beacon Health Options 和康涅狄格州行为健康伙伴关系 (CT BHP) 开始了一个为期 14 个月的项目,旨在通过提供住房支持和获得国家资助的住房券来改善无家可归的 Medicaid 接受者的健康和福祉。他们的第一个算法解决方案经过测试,并揭示了一个偏见,即参与康涅狄格州住房参与和支持服务 (CHESS) 计划的西班牙裔个人选择不足。由分析和创新高级副总裁 Robert Plant 博士和健康研究科学家 Krista Noam 博士领导的 Beacon 团队随后着手开发一种新算法来减轻和提高公平性。

CHESS 的初始算法利用了住院时间和其他利用率指标的数据。 Beacon 发现该算法过度选择了非西班牙裔白人,而未充分选择具有西班牙裔血统的人。当包括成本节约在内时,偏差变得更大。 

为了提高公平性,我们的数据科学家将注意力转移到基于诊断的合并症指数上,该指数用于预测谁最有可能在来年患重病或死亡。这种方法显着减少了偏差,但还不够。 Beacon 发现西班牙裔美国人仍然不太可能被选入计划,这表明需要对算法进行其他调整。

为了确保通过算法选择的人口更接近无家可归的总人口,包括了成员一生中在避难所度过的天数。利用这种方法,Drs。 Plant and Noam found that the ethnic/racial composition of the members passing the algorithm more closely resembled the total population when those who spent more days in a shelter throughout their life were selected.

Beacon 与 CT BHP 的合作正在进行中,这只是我们为改善弱势群体的公平所取得的进展的一个例子。要了解有关 Drs 的更多信息。 Plant 和 Noam 成功消除算法中的偏见,包括有用的注意事项和注意事项,他们计划在全国心理健康委员会全国会议上参加他们的海报会议, NATCON 2022,于 4 月 11 日星期一在华盛顿特区举行。他们的会议将包括:

  • 关于算法中存在偏见的简短文献综述
  • 通常用于识别可能会引入偏见的特殊人群的指标
  • 如何测试算法中的偏差
  • 与某些可能被视为歧视性的偏见缓解方法相关的风险
  • 纳入健康的社会决定因素指标如何有助于减轻偏见
  • 现实世界中放大和减轻客户或成员选择偏差的算法示例

[1] Obermeyer et al., Science 366, 447–453 (2019) 在用于管理人群健康的算法中剖析种族偏见

[2] 纽约时报 2020 年 12 月 7 日——即使是不完美的算法也可以改善刑事司法系统,以及 2020 年 2 月 7 日——一种赋予自由或剥夺自由的算法

[3] 从加载 HMIS 数据的当月开始,索赔被取消了一年,允许四个月的差距。无论会员在那一年有资格获得医疗补助的天数如何,都会提取数据。


没意见

发表评论

您的电子邮件地址不会被公开。必需的地方已做标记 *
不适当和/或与当前主题无关的评论将不会发布。

热门链接
zh_CN简体中文