大数据文摘:有些决策不能,也永远不该委托给机器

2018-06-06 23:31:04    大数据文摘  参与评论()人

(大数据文摘出品,编译:大茜、张文静、Aileen、魏子敏)

我们正将越来越多的选择权拱手让于算法。

从新的一天要听什么歌、哪些人应该拿到社会福利,到学校课程设置、公司并购决定,机器开始支配这些看似琐碎但重要的抉择,而我们还没有意识到,这或许是比“终结者”的到来更严重的威胁。

但有些决策不能,也永远不应该委托给机器。

用算法来做决策的初衷一定是善意的:提高效率,让决策迅速获得数据支持,且保证流程的一目了然。

而在惊叹于这些让人眼花缭乱的自动化决策系统的同时,管理层常常忘记一个最重要的问题:

算法的引入是减少还是加剧了系统中的不公平因素?这种算法是否会影响决策——或作为决策的基础,可能对人们的生活产生负面影响?

由于数据偏差、系统内置偏见,不了解统计数据以及过度信任机器的决策者,还有其他众多的挑战,算法永远不会给我们“完美”的结果。

那么,在算法和你的判断产生出入时,你将在多大程度上依赖算法?

影响分析结果的因素有很多。这篇文章将指出,在进行自动化改革之前,所有组织需要考虑的几个因素。

资料图来源:视觉中国

印第安纳州的失败算法和100万受害者

先来看一个算法偏差导致的可怕后果。

在印第安纳州,一个算法将有关福利的不完整的文件归类为不合规。

在三年的时间里,因为这一决定,有100万人无法获取食品券,医疗保健和现金福利。

Omega Young是100万受害者之一。

在2009年3月1日,她因无法负担医药费而死亡。(在她死后赢得了最终维权上诉,并重新得到她的所有福利金。)

相关报道: