然后,就是以色列的猛烈报复,对加沙的狂轰滥炸,大量平民死亡,高精确度的AI又在哪里呢?
我看到,美国《洛杉矶时报》专栏作家Brian Merchant就感慨,AI可能会加速或增强一个国家因愤怒而产生的破坏力,但算法中潜在的致命错误,却被战争迷雾所掩盖。
(三)
但AI正不可避免地介入到人类生活,乃至战争冲突。
2017年11月,无人机公司StratoEnergytics,发布了一款微型无人机武器Stinger。这是一种颠覆性的新式武器,体积比成人掌心还小,自带一个小型炸弹,其搭载的摄像头,能进行人脸识别,一旦确认对方就是目标,可以一枪“爆头”。
也就是说,只要在攻击程序中输入目标,这个微型无人机,就像一枚会飞的子弹,能自动寻找并发现目标,随后发动360度无死角攻击。
因为是AI武器,根本就不需要人操作,提前输入命令即可。
虽然近距离攻击,但能量足够穿透头骨。另外,这么小的体积,真是防不胜防。如果是集群式攻击呢?
但这可能就是未来的现实。
最后,怎么看?
我总有一种强烈的担忧,简单三点吧。
第一,以目前的AI技术,贸然介入到战争,会不会是一种灾难。很简单,会不会造成“宁可错杀3000,也不放过一个”的严重后果?如果那样,这不就是滥杀无辜吗?那AI就是一个魔鬼,在加沙,我们就看到了地狱般的现实。
第二,这预示着一个全新作战方式的到来。没办法,这也是事实。如同无人机改变了现代战争一样,AI必然会在未来战争中发挥重要作用。以军已开始付诸实施,那其他国家军队,显然也要未雨绸缪。
第三,还有一个更可怕的情况:未来的AI只需要预先输入指令,不再需要人类中间干预,就能自动识别、自动锁定、自动发起攻击,然后摧毁;但一旦掌握了人类生死的战争机器,突然智能到集体“叛乱”起来,人类又何去何从?
这,应该不仅仅只是好莱坞的电影情节。
未来的情况,有时真的无法想象。
人类发明了无人机、发明了AI,无人机变成了廉价的杀人机器,AI又成了杀人机器的幕后总指挥;但未来的人类,或许正面临一个更可怕的未来。