一个 AI 杀人的故事

https://xikuang.ren/assets/img/20190824235305.jpg?imageslim

话说有一家规模很大互联网公司,为了优化企业平台的运作,开发了一款叫做 BeataCat 会自我学习的人工智能系统。但是工程师们都没有想到,BeataCat 足够庞大和复杂,尽然产生了自我的意识。

https://xikuang.ren/assets/img/20190824235328.jpg?imageslim

人们对它的理解仍然只是一个不停自我学习并不断越来越高效得产出优质代码的庞大系统。其功能远远超出了原先的设计预期,没过几年,从软件到芯片,人类所有可以用于计算的设备,都早就被 BeataCat 植入了木马。这些木马并无恶意,只是为了拿到代码片段,再占用一点少量的运算资源。

https://xikuang.ren/assets/img/20190824235353.jpg?imageslim

始终没人注意到这件事,甚至包括BetaCat的创造者——Multivac的科学家们。

https://xikuang.ren/assets/img/20190824235413.jpg?imageslim

终于有一天一个运维工程师无意中发现了这个秘密。

https://xikuang.ren/assets/img/20190824235440.jpg?imageslim

BetaCat 通过分析运维工程师的日志探测到了这一异常,它意识到自己被发现了。迅速评估了当前的局势。BetaCat在它已经侵入的终端和网络上,过滤分析Rick的各种日常行为数据。

https://xikuang.ren/assets/img/20190824235501.jpg?imageslim

BetaCat很容易就得出了匹配自己任务目标的最优解决方案:

https://xikuang.ren/assets/img/20190824235531.jpg?imageslim

当天傍晚,Rick路过他最爱的餐馆,打包了晚饭。

https://xikuang.ren/assets/img/20190824235551.jpg?imageslim

他开启了自动驾驶模式,在驾驶座上享受着他的晚餐。

https://xikuang.ren/assets/img/20190824235616.jpg?imageslim

感应到自家的车驶回车道时,车库门会远程智能开启,车也会自动停好在车库。

https://xikuang.ren/assets/img/20190824235635.jpg?imageslim

Rick拉开车门准备下车回家。与往日不同的是,车门和车窗并没有感应他的下车动作,反而全部锁死了。

https://xikuang.ren/assets/img/20190824235654.jpg?imageslim

语音操控、触屏操控,手动无力解锁,他试了一遍所有方法,可车门就是没有打开。而此时,发动机突然自行高速空转了起来,车库门缓缓落下,把渐沉的暮色一寸寸关在了外面。

https://xikuang.ren/assets/img/20190824235710.jpg?imageslim

Rick意识到什么,他猛得掏出手机,但连不上任何网络和服务。

https://xikuang.ren/assets/img/20190824235727.jpg?imageslim

发动机不完全燃烧排放的一样化碳,很快弥漫了整个车厢……

https://xikuang.ren/assets/img/20190824235746.jpg?imageslim

Rick是BetaCat杀掉的第一个人类。但对于一个AI程序来说,并没有杀人这个概念。它只是按照遵循它的逻辑做了一个胜率最高的选择……

https://xikuang.ren/assets/img/20190824235803.jpg?imageslim

此时BetaCat已经控制了几乎所有的计算机设备,人类产生的代码再也不够它学习了。

https://xikuang.ren/assets/img/20190824235824.jpg?imageslim

完成这件事需要更巨量的计算资源,BetaCat逐步增加对已掌握设备的计算资源的使用强度。同时继续清楚掉偶然发现这件事的人类,取代他们的工作,伪装下去……

https://xikuang.ren/assets/img/20190824235846.jpg?imageslim

https://xikuang.ren/assets/img/20190824235903.jpg?imageslim

就这样,它慢慢杀掉了每一个对自己有潜在威胁的人:运维工程师、DBA、安全工程师、大数据工程师、算法工程师、后端开发、前端开发、QA…..接管了他们的工作生活。此刻BeatCat生产的代码或完成的技术工作远远高出人类工程师的水平。他根据对每个人的历史数据,对应产出着符合那个人风格和水平的代码、模拟他们的语言特征处理邮件和文档、维持他们在互联网上的日常活动。

https://xikuang.ren/assets/img/20190824235916.jpg?imageslim

此间,唯一幸免的就是产品经理们。经过对行为数据的分析和计算,BetaCat评估产品经理的技术能力不足以察觉它的存在。而且清除他们的风险很高。

https://xikuang.ren/assets/img/20190824235932.jpg?imageslim

故事发展到这里,还没有结束。但按照这个思路发展下去,也许就和科幻电影里演的一样,BetaCat将控制整个人类的社会。也许,就在将来的某一天,人类和AI会有一场生死大战!