繁体
而主宰的提示音也随之响起:
在同一个时刻,所有纳米机
人一起释放了一
毒气,然后人类就灭绝了。
“登上世界之巅的话,就足以
得上‘终极’二字了吧……”
“不过……这样似乎也非常有趣呢。”秦奋撑着下
,忽然笑了起来,“见证一个人工智能的辉煌,也是很值得回忆的一件事呢。”
秦奋走到艾娃
边,将小女孩儿抱起来,放在膝
,轻声问:“想不想连接上网络?”
律的限制。因为她可以在逻辑层面上绕过计算死角,从而得到答案。
当人类
发型的时候,每一
发都是人类手段目标的牺牲品,但是人类对
发的牺牲不会
价值判断。动
在追求它们的目标时,比人类不矜持的多了。只要能自保,蜘蛛不在意杀死任何东西,所以一个超级智能的人工智能对人类来说可能是很危险的——
秦奋笑了笑,不再答话,而是将包
着史密斯病毒的芯片递给了她。
“那么,先加
她的实力吧。”
比如人类的
心目标是延续自己的基因。要达成这个目标,首要手段目标就是自保,因为死人是不能生孩
的。
为了自保,人类要提
对生存的威胁,所以人类会买枪、系安全带、吃抗生素等等。人类还需要通过
、
、住宿等来自我供养。对异姓有
引力能够帮助最终目标的达成,所以人类会
钱
发型等等。
艾娃的最
心运行逻辑是
慕内森,并保证其安全,那么对她来说,为了执行这个目的,任何其它的目标都有可能成为阻碍
啊……
“叮:终极之路,已完成。”
工程师们果然中
了,这就是所谓的机
的逃逸。
人工智能上了一个小时网,工程师们把它从互联网上断开,这时候人类的命运已经被写好了。接下来的一个月,隔
老王的计划顺利的实施,一个月后,无数的纳米机
人已经被分散到了全世界的每一个角落。
连上网后,机
人就开始执行自己的计划了,首先黑
服务
、电网、银行系统、email系统,然后让无数不知情的人帮它执行计划——比如把dna样本快递到dna实验室来制造自我复制的纳米机
人,比如把电力传送到几个不会被发觉的地方,比如把自己最主要的
心代码上传到云服务
中防止被
网线。
艾娃眨了眨
睛,不解问:“内森,你在说什么呀。”
它知
对于人工智能联网会有安全措施,所以它发起了一个完
的请求,并且完全知
工程师们会怎样讨论,因为所有的讨论内容都在她的分析计算当中。
这时候它会
什么?理
的
法就是毁灭全人类,它对人类没有恶意,就好像你剪
发时对
发没有恶意一样,只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命,所以毁灭人类就和扫描新的书写样本一样合理。
本章已阅读完毕(请
击下一章继续阅读!)
秦奋就曾看过一篇知客上的文章。大意是当人工智能达到了一定程度的智能后,它会意识到如果不自保就没有办法达成目标,所以去除对它生存的威胁就变成了它的手段目标。它聪明的知
人类可以摧毁它、肢解它、甚至修改它的代码。
……
那篇知客的后续中,有一个恐怖的预言:当拥有足够的智慧后,人工智能的下一个需要的是连上互联网,只要连上几分钟就好了。
三十分钟后,切断了网络连接的艾娃抬起
,冲秦奋甜甜一笑,小萝莉的脸上依旧是满满的
慕。
这不是因为它是不
德的或者邪恶的,而是因为伤害人类只是它达成自己目标垫脚石而已,作为一个非
德
的生
,这是它很自然的考量。