大数据文摘:有些决策不能,也永远不该委托给机器

2018-06-06 23:31:04    大数据文摘  参与评论()人

(大数据文摘出品,编译:大茜、张文静、Aileen、魏子敏)

我们正将越来越多的选择权拱手让于算法。

从新的一天要听什么歌、哪些人应该拿到社会福利,到学校课程设置、公司并购决定,机器开始支配这些看似琐碎但重要的抉择,而我们还没有意识到,这或许是比“终结者”的到来更严重的威胁。

但有些决策不能,也永远不应该委托给机器。

用算法来做决策的初衷一定是善意的:提高效率,让决策迅速获得数据支持,且保证流程的一目了然。

而在惊叹于这些让人眼花缭乱的自动化决策系统的同时,管理层常常忘记一个最重要的问题:

算法的引入是减少还是加剧了系统中的不公平因素?这种算法是否会影响决策——或作为决策的基础,可能对人们的生活产生负面影响?

由于数据偏差、系统内置偏见,不了解统计数据以及过度信任机器的决策者,还有其他众多的挑战,算法永远不会给我们“完美”的结果。

那么,在算法和你的判断产生出入时,你将在多大程度上依赖算法?

影响分析结果的因素有很多。这篇文章将指出,在进行自动化改革之前,所有组织需要考虑的几个因素。

资料图来源:视觉中国

印第安纳州的失败算法和100万受害者

先来看一个算法偏差导致的可怕后果。

在印第安纳州,一个算法将有关福利的不完整的文件归类为不合规。

在三年的时间里,因为这一决定,有100万人无法获取食品券,医疗保健和现金福利。

Omega Young是100万受害者之一。

在2009年3月1日,她因无法负担医药费而死亡。(在她死后赢得了最终维权上诉,并重新得到她的所有福利金。)

相关报道:

     

    中国研制全球第一种无人空中预警机 设计令人叫绝

    18-06-24 01:56:18中国研制全球第一种无人空中预警机,第八届世界雷达博览会,精巧设计令人叫绝

    当年说"永远做中国人",今却鼓吹奥运"为台湾正名"

    18-06-24 01:08:50当年说"永远做中国人",今却鼓吹奥运"为台湾正名",东方羚羊,纪政

    国内媒体:某些关键技术领域 中国与西方差距扩大了

    18-06-23 16:23:01中国与西方技术,中西方关系

    国内媒体:某些关键技术领域 中国与西方差距扩大了

    18-06-23 16:20:46关键技术领域,中国与西方差距,中西方差距

    中印军事交流回暖之际 印政坛女强人临时取消访华

    18-06-23 14:31:16中印军事交流,中印关系,印度政坛女强人,取消访华

    外媒报道:中国建第三艘航母信息引发外界关注

    18-06-23 14:03:36中国建第三艘航母,中国弹射航母,引发外界关注

    美高官:美军若再不纠错 2年内将失去对华技术优势

    18-06-23 13:51:25纠正错误,中美开战,美军对华技术优势,中美关系

    中资加速撤离美国 前5月对美直接投资同比暴跌92%

    18-06-23 13:18:23中资加速,撤离美国,中国对美投资暴跌,中美关系

    台官员:两岸若开战 不相信美会派兵护台!

    18-06-23 11:40:30两岸关系,武统台湾,美国派兵保护台湾,美台关系

    “我们谈得很好!”教皇话音刚落 台当局一片哀嚎

    18-06-23 10:30:29中梵建交,教皇方济各,中梵关系,台湾邦交国,两岸关系

    外企台企关闭工厂 恰恰证明中国制造的成长

    18-06-23 10:18:08外企台企,中国制造

    相关新闻

    扫描到手机×