种族偏见是怎样感染的主要保健算法

杰夫·科克雷尔 | 2019年10月25日

部分 经济学

数据科学近几十年来的发展,算法都来在协助决策的范围十分广泛,使得预测在某些情况下,这是有后果了巨大的人力的作用。五月的算法来帮助录取决定谁是精英学校,批准抵押贷款,或让其等待审判从家里而不是身陷囹圄。  

但也有广为宣传,并关注其算法或系统化延续偏见。由美国加州大学伯克利分校的研究 齐亚德欧博迈亚, 布赖恩权力 波士顿布里格姆妇女医院, 恭vogeli 合作伙伴的医疗保健,以及芝加哥大学布斯的的 森德希尔·马纳森 那人们发现算法,用于做出重要的保健决心以百万计的患者在美国,产生种族偏见的结果。

有问题的算法来帮助识别“高危护理管理”课程,提供更多的资源和精力给患者带来复杂的健康需求登记身份的候选人。这样的程序,它可以提高患者的治疗效果,降低成本,都是由许多大型美国医疗系统所采用的,因此谁的决定报名参加数以千万计的影响了人们。该算法给每个患者风险分数被用于引导注册决定:在第97百分位数和上述被自动识别为登记风险分数的患者,而一个从第55到第96百分位的得分被标记为可能的登记根据来自病人的医生输入。

欧博迈亚,权力,vogeli和Mullainathan发现,黑人患者是平均比分配分数相同的白患者远不如健康。例如,患者在第97百分位研究人员的样本的风险评分,平均黑患者有26%以上的慢性疾病比白人患者做了。偏置ESTA的结果:黑色患者明显不太可能被标识为招生计划比他们本来否则。由于算法偏差,招生17.7%的患者自动识别是黑色;没有它,研究人员计算,46.5%黑人本来。

偏置从什么算法被要求预测茎。健康是不能狭义的或者单个指标封装的概念,这使得它很难在数据直接观察。该算法使用医疗成本为健康需求的代理和风险分数反映出的是谁具有最高的未来医疗费用的算法的预测。在这方面,研究人员说,算法以及跨种族校准:对于任何给定风险评分,黑人患者的未来医疗费用的那些相似的白人患者。

该算法的重点放在成本,感兴趣的结果是典型的以同样的方式,研究人员写使用其他算法。

麻烦的是,黑色产生费用一般患者比降低患者的白色轮廓像健康,少因为黑人患者可能接受治疗。 “不管是沟通,信任,或偏见,我为黑人患者与医疗保健系统本身导致减少使用卫生保健,之间的相互作用”研究人员写道。黑生成$ 5,000个病人,在医疗保健费用是平均,病情加重比白人患者产生相同的成本WHO。

有问题的算法不是用来指导入学护理管理计划的唯一因素。然而,注重成本STI为感兴趣的结果是典型的以同样的方式,研究人员写使用其他算法。更重要的是,在选择迪姆他们专注于合理成本在一定程度上,这并不仅仅是因为卫生保健系统最想尽量减少开支:医疗费用和健康的需求也有很强的正相关性。患者病情加重往往要花费更多的医疗保健。 “偏见的机制是特别有害,因为它可以合理选择起来”关于算法的设计者,研究者写的一部分。

欧博迈亚,权力,vogeli和Mullainathan他们把他们的报告结果对算法的厂商,使用超过350万名患者的国家数据集证实偏见的结论。那么制造商合作变量随着研究人员确定能够站在为对健康需求的低成本的代理;与健康相结合的预测采用可变成本预测(关于慢性活动性条件的数量将需要管理的患者),他们能够创建一种算法,减少了86%的偏差,根据一项措施。