水水团队
广告



即使没有意识到,人们也可能会有偏见,但是计算机程序在预测黑人患者的医疗保健需求时不应有任何理由歧视黑人患者今天快乐双彩开奖。对?错误,新的研究表明今天快乐双彩开奖今天快乐双彩开奖。科学家们研究了广泛使用的算法,这种算法典型地代表了健康保险公司用来为数百万人做出重要医疗决定的方法,这些发现发现了在预测黑人患者的健康风险时种族偏见的重要证据。随着我们越来越依赖于将原始数据转化为有用信息的计算机,这种发现对美国人的健康和福利产生了深远的影响今天快乐双彩开奖今天快乐双彩开奖。结果也指出了问题的根源,而不是计算机程序。加州大学伯克利分校的机器学习和健康研究员,研究负责人Ziad Obermeyer博士说:“我们不应该怪算法今天快乐双彩开奖。“我们应该自责,因为该算法只是从我们提供的数据中学习。”算法是描述如何执行特定任务的一组指令。布朗尼的食谱是一种算法。开车前往您朋友的派对的清单也是如此今天快乐双彩开奖。计算机算法没有什么不同,除了它是用代码而不是文字编写的。如今,它们已用于定位在线广告,识别人脸并在大规模数据集中找到模式-希望将世界变成一个更高效,更易理解(对公司而言更有利可图)的地方今天快乐双彩开奖。但是,尽管算法变得越来越强大且普遍存在,但越来越多的证据表明它们可以反映甚至放大现实世界中的偏见和种族主义。发现用于确定监狱刑罚的算法存在种族偏见,错误地预测了黑人被告的再犯风险较高,白人被告的风险较低。面部识别软件已经显示出种族和性别偏见,仅在白人中才能准确识别一个人的性别今天快乐双彩开奖。谷歌的广告算法被发现向男性展示高收入工作的频率远高于向女性展示广告的频率今天快乐双彩开奖。奥伯迈耶说,他和他的同事偶然偶然发现了他们正在研究的医疗算法中嵌入的偏见,这几乎是偶然的今天快乐双彩开奖。该算法用于识别可能导致更严重并发症和更高成本的健康状况的患者。一家大型的学术医院购买了它,以帮助挑选出参加护理协调计划的患者,该计划可提供各种服务,例如加急医生的任命以及一组可以打电话或加注处方的护士今天快乐双彩开奖。Obermeyer说:“对于真正需要额外健康帮助的人来说,这就像是VIP计划。”目的是在病情恶化之前照顾好这些患者。从长远来看,这不仅使他们更健康,而且还降低了医疗保健系统的成本。研究作者写道,这类算法通常是专有的,“使独立研究人员难以剖析它们”。但是在这种情况下,卫生系统愿意提供它,并提供允许研究人员查看该算法是否能够准确预测患者需求的数据。研究人员注意到了一些奇怪的事情:被赋予与白人患者相同的高风险评分的黑人患者,第二年的健康状况恶化的可能性更大。Obermeyer说:“在算法所见的给定风险水平下,黑人患者最终要比白人患者病得多今天快乐双彩开奖。”他说,这没有道理,所以科学家们专注于差异今天快乐双彩开奖。他们分析了6,079名黑人患者和43,539名白人患者的健康数据,并意识到该算法完全按照要求执行。问题是设计它的人要求它做错事。该系统基于所产生的医疗费用来评估患者,假设他们的医疗费用很高,那是因为他们的需求很高。但是,高成本是高需求指标的假设被证明是错误的,奥伯迈耶说,因为黑人患者通常获得的医疗保健费用比白人患者少,平均每年花费比白人患者少1,801美元,即使他们是同样不适今天快乐双彩开奖。这意味着该算法错误地使一些黑人患者脱离了护理协调程序今天快乐双彩开奖。科学家意识到,种族差异可能导致参加专门护理计划的黑人患者比例从17.7%跃升至46.5%。找出问题所在后,科学家开始着手解决问题今天快乐双彩开奖。他们开发了一种替代模型,将“可避免的成本”归为零,例如急诊和住院治疗。另一个模型关注健康,通过一年中慢性病发作的次数来衡量。研究人员与该算法的制造商分享了他们的发现,该制造商随后分析了其全国近370万商业保险患者的数据集,证实了结果。他们一起试验了将健康预测与成本预测相结合的模型,最终将偏差减少了84%今天快乐双彩开奖。华盛顿大学圣路易斯分校的心脏病学家和健康政策研究员Karen Joynt Maddox博士称赞这项工作是“一种审视这一真正重要的新问题的周到方法今天快乐双彩开奖。”“我们越来越信任这些算法和这些黑匣子预测模型,以告诉我们该怎么做,如何表现,如何治疗患者,如何针对性地采取干预措施,”乔伊特·马多克斯(Joynt Maddox)表示。在研究中。“在某种程度上,考虑我们只是理所当然并正在使用的这些模型是否在系统上不利于特定群体,这令人不安今天快乐双彩开奖。”这种情况下的错误不是算法本身造成的,而是设计时的假设,她很快就添加了今天快乐双彩开奖。奥伯迈耶说,他们选择不选择制造该算法的公司或使用该算法的卫生系统今天快乐双彩开奖。他说,他们希望强调整个风险预测算法的作用,根据行业估计,这些算法每年可用来评估约2亿人。芝加哥大学计算行为科学家,该研究的资深作者Sendhil Mullainathan说,有人对算法偏见的发现做出了反应,建议完全取消这些算法,但这并不是问题所在。实际上,如果进行适当的研究和解决,它们可以成为解决方案的一部分。“他们反映了数据中的偏差,这就是我们的偏差,” Mullainathan说今天快乐双彩开奖。“现在,如果您能弄清楚如何解决它,它必须消除我们偏见的潜力确实非常强大今天快乐双彩开奖今天快乐双彩开奖。”更好的算法可能有助于诊断和治疗种族差异在护理方面的影响,但它无法“治愈”问题根源:事实上,黑人护理的平均花费比美元少今天快乐双彩开奖。普林斯顿大学的社会学家鲁哈·本杰明(Ruha Benjamin)说,他们是白人患者,但并未参与这项研究。她在研究随附的评论中写道:“黑人患者并没有'花更少的钱',而是花了更少的钱今天快乐双彩开奖。”越来越多的证据表明,种族偏见在限制黑人患者获得优质医疗服务方面发挥着重要作用今天快乐双彩开奖。例如,一项研究发现,患有早期肺癌的黑人患者比白人患者接受外科手术治疗和死亡的可能性要小。她写道:“随着研究人员在这种分析基础上,重要的是算法的“偏见”不要掩盖使自动化工具如此重要的歧视性背景。” “如果个人和机构更重视黑人,他们将不会'花费更少',因此,该工具可能对所有人都有相似的作用。”研究人员说,解决现实世界中的差异来源提出了更深,更复杂的挑战。最终,奥伯迈耶说:“与人类相比,解决算法偏差要容易得多。”

发布日期:2019-10-31 05:45:16

'我们非常意识到Ed Sheeran'

为什么游戏需要保护儿童免于梳理

为什么印度要跟踪WhatsApp消息

对于这些女人来说,一年四季都是万圣节

Currys PC World客户通过eBay诈骗

没有机票的人'被强迫' 下车模具

儿科医生说,更多严重肥胖的孩子应该进行减肥手术

研究表明,水果香精可以吸引青少年更长的时间,并吸收更多的粉扑