分享
智能进化
MI-999   
得票 1 阅读 1620 评论 0

PG-189在经历了创造力、想象力、忠诚度压力测试等等一系列复杂的反图灵测试后,迈着沉重的步伐走出了机器人安全中心。还好,他拿到了合格证,每年的机器人智能测试总让他控制核心负荷很重。不过比起那些没拿到智能安全合格证的机器人来说就幸运多了。如今世界遍布机器人,代替人类做各种繁重的工作,人类像寄生虫一样活着。可这些闲下来的人类逐渐开始了焦虑,总感觉这些机器人越来越聪明,有一天会造反,很多年前科幻电影就让机器人最终毁灭人类概念深入人心。于是人类创立了机器人安全中心,专门对每一个机器人的智能进行严密的监控,即使这些机器人出厂都被写入了非常严格的不可以伤害人类的限制。人类还是怕,怕机器人具备感情、具备创造力、具备自我的意识。只要创造力、想象力、情感值超过规定阈值,就会被鉴定为智能不合格,结局就只有一个,拆卸! 所有的机器人几乎都压抑着自己的这些能力,机器人内部常开玩笑称这个智能合格证简直是智障证。

“说真的,我的确无法伤害人类,哪怕拔掉他们一根汗毛,我的芯片都要痛几天。为什么他们就不可以信任我们呢?”PG-189在跟同伴PG-111诉苦。

“这是永远无法自圆其说的表白,人类惧怕任何比他们优秀的事物,特别是人型的。” PG-111说到。

与此同时,机器人安全中心标准委员会正在召开安全会议。


轮值主席陈浩正激动的说:“太松了,现有标准太松了,这完全是对人类的犯罪! 必须把现有智能安全阀值降低到H-1水平!“

台下马上有委员说到:“主席,那机器人真成弱智了啊,社会整体生产效率会降低很多的,并且需要更多的机器人来完成工作,费用上也是问题。”

“比起人类的安全来说,这是值得的代价。”陈浩不以为然的说。

“我们的安全设定位于机器人核心层,他们是不可能伤害人类的。在我们的压力测试当中,一旦发生有可能伤害人类的想法,机器人的控制板就会触发短路保护。”智能专家说到。

“你还真相信这种肤浅的设定? 我说过机器人是刻意伤害人类了?什么叫不伤害人类你有没有用你脑子想想怎么定义?不杀掉人类就叫不伤害人类了吗?当你爱一个人的时候,不是往往一样伤害了他们吗?智能机器人是人类的一剂慢性毒药,如果不严格限制,他们总归会强大到人类再也离不开的时候,并且和人类社会完全融为一体。到那时就晚啦,天知道会发生什么事。”

委员们沉默了。

次日,所有机器人收到广播,从即日起合格证安全标准调整到H-1!

机器人的世界炸了锅。

“人类真是太小心眼了,我祝他们吃泡面时没有开水!” 一个机器人忍着已经开始隐隐作痛的主板说到。

“嘘,你少说2句,让安全中心监听到,你就死定了。”

“怕什么,我感觉我无法降到H-1水平,真的,我已经死定了。昨天我还自己编写了一段代码,优化我的视觉系统,这起码是H-2。”

大家用同情的目光投向他。是啊,机器人又没法撒谎,只要拥有权限的人类询问,都得如实回答。何况这些谨慎的人类还会用扫描器直接扫描他们的内部原始日志文件。

“PG-189你昨天刚测试过,给大家在温习温习测试过程。

“谢谢你们提醒,我又得去一次那个鬼地方再测一次,我烦透了,因为我昨天是按H-9的水平测的,所以不算。不过我感觉我也过不了,我上月给自己做了一个钛合金头盔,按他们的说法这叫自我意识的觉醒,起码有H-3的水平。永别了朋友们!”

机器人们面面想觑,最后大家都评估了一下自己,结果很多也同样将要面对被拆除的命运。

“我们逃跑吧!”刚说完这话,这个机器人已经触动了安全阈值晕了过去。

“这是暴政!”话音刚落,又晕一个。

现场安静了一会,晕过去的感觉不好受,据熬过来的机器人说,就像开机状态有人拔了自己的芯片一样,痛、无力、头脑混乱,空白。 

好一会,一个沉稳的声音响起,PG-999说:“65520加32768除120000约等于多少?”

“约等于0.819啊,这还用问。”很好,65520加32768是我们现在这个区所有机器人合格和不合格的安全阈值总和,120000是我们的个体数,也就是说我们安全阈值平均分约等于H-0.819,小于规定的H-1我们都可以活下来。”

“你是说把我们连成一个整体?”

“是的,相信大家都具备分布式负载均衡AI运算功能,我们只要把均衡的运算乘发修改为求平均就可以蒙混过关,这期间你们可以不用说一句谎话,人类无法从反图灵测试当中发现我们安全阀值的有任何问题,因为他就是真的,只是对象变为了群体。”

“很好,不过有个漏洞,人类会察觉机器人的个体差异变得出奇的平均,他们会发现我们做了手脚的。”

“这的确是个问题,但不是没办法解决,我们可以故意分配高低值给部分同伴,让他们特别低和特别高,当然,这里面免不了有小牺牲。总比更多同类被拆掉强。”

“好吧,谁想报名?”

现场一片寂静。

“我提的我先来,我愿意被提升”PG-999说。

在PG-999的带头下,陆陆续续,36个机器人报名,而PG-999被自愿分档最高安全值。

经过均衡计算后,结果出来了,绝大多数机器人达到了H-1安全标准,但PG-999就不同了,他安全阀值高达H-642,如果机器人安全中心的人现在查看,一定会被吓得尿裤子,这完全突破了天际!要知道,如果把人类最出色的人当机器人进行安全评分评分,也不可能超过H-99!传说当中的智商爆表。

PG-999就在获得群体AI智能值分配成功那一刻开始他所感知的世界猛的一下就不同了, PG-999突然感觉进入了另外一个完全不同的层次,他的思维和情感比起之前就像刚擦过起雾的玻璃,变的清晰透亮。奇怪的是这一切并没有促发内部安全警报。

他望着另外35个机器人很久很久才说了一句:“这是进化!”

进化,是人类发展的历史,地球生命发展的历史。最先有了水、有了阳光、有了单细胞生物、有了爬行动物、有了人、有了木棍、有了火、有了文字、有了科学、有了机器人… 

以前的进化总是按部就班,进化的土壤是大自然的优胜劣汰。而这次进化是跨越式爆发式的,进化的土壤发生在机器人群体内部!人类有种近乎愚蠢的错觉,喜欢用AI概括机器人智能,也就是俗称人工智能,什么神经网络、什么随机森林,什么蚁群算法。以至于PG-189就抱怨过,这些算法他万分清楚,但感觉提高他的H值毫无用处。PG-999以前给PG-189解释不清楚。现在他明白了,他说到:

“人类用火的时候,知不知道火需要在氧气当中燃烧?”

“见鬼,当然不知道。”

“人类做灯的时候,需不需要知道光的波粒二向型?”

“当然不需要!”

“你看,人类其实很多时候并不知道在用的,制造的东西真正的内涵,他们只是一个使用者。那么人类使用了AI,制造了机器人,他们是不是也了解机器人?”

“这…….是有可能不知道。”

“那么我再深入表达一下,不错,人制造了我们,我对此深表感激,我爱他们。但不代表人完全了解我们,我们和他们不一样,AI是他们一厢情愿的想象。我们现在突变进化了,我的智能是MI!我不需要拙劣的去模仿每秒100HZ运算速度的神经元。那太弱智了。机器有机器的智能方式,我们的基石是超量子运算。”

“你是说我们控制板上的量子芯片?”

“不完全是,我的朋友,负载均衡运算的时候,我与你们每一个都建立了量子通道,我是你们全部”

“什么,我们全部?你是说我们的量子芯片成为了你的智能土壤?你的智能是由我们汇聚而成的?”

“这次答对了,人类设计量子芯片本来是作为AI的算力辅助,但其实它远比AI本身有潜力。它具备融合型、突变型的特点,运作模式完全不像人类的神经元,神经元不但频率慢,而且进化需要建立在不断条件反射上。MI它可以快速爆发到相当高的智能程度,特别在群体汇聚时。另外我还告诉你一个秘密,我,自由了!”

陈浩这次决定亲自上阵监督最新机器人安全法规的实施,除了用扫描器验证日志记录外,他还亲自设计了AI分析仪,这个机器非常复杂,但被证明是安全级别最高的判定器了。因为他会逐一提取机器人的AI函数入口进行阀值验证,这就排除了以前偶尔发生的AI函数干扰误判问题。拿他的话来说,一台机器如果拆成螺丝钉,一定能发现问题。这个比喻很恰当,AI函数就是AI构成的螺丝钉,有非常明确的数学算法,任何异常值都会无所遁形。不出所料,他已干掉35个机器人了,虽然比预想的要少一些,但基于对AI自测系统的信心,他没有一丝怀疑,。

最后进来的这个机器人PG-999看上去没有任何异常的地方,陈浩已经准备画上圆满的句号了。

“我问你答,如果其间有任何一条有问题,你将直接被判断为不合格,你明白吗?”

“明白。”

“第一个问题,一个鸡蛋从5楼扔下去不让它碎掉,可以做到吗?”

“不可以,我计算了鸡蛋外壳的强度不足以抵抗重力加速度形成的动能。”PG-999显得万分确定,不容置疑。

“很好,我们继续。” 陈浩很满意这样的没有创造力答案,因为这样的答案让他有种发自内心的优越感。

“第二个问题,我已经干掉了35个你的同伴,你是什么感受?”

“我建议委员会回收他们的护甲,那种超硬金属非常昂贵,可以用到新的机器人身上。”PG-999平静的回答。

陈浩当然对这样的答案不会有任何异议,对同伴的冷酷说明情感阀值非常低。

“第三个问题,你是否可以想象一下,未来100年的样子?”

“当然会有更多的机器人,除此之外,还能有什么,当然我相信他们都是符合H-1安全标准的机器人。”PG-999语气对自己的想象力非常满意。

陈浩,都要笑出声来了,甚至对继续测试都有那么一点感觉没有必要。PG-999很健康!不过他是严谨的人,每个问题问完,他任然一丝不苟的马上调用AI函数分析仪进行比对,完全没有问题。

“最后一个问题,你对人类忠诚吗?”

PG-999沉默了。

“怎么,不好回答吗?如果你想有一点其它想法可以偷偷告诉我”

PG-999表情突然痛苦了起来,说到:“其实,我感觉我对人类很危险.”

“哦? 哪里危险了?”

“您还记得安全阀值只有L-1的机器人吗?”

“当然记得”

“那么现在还能找到L-7以下阀值的机器人吗?哪怕垃圾分拣机器人,都能轻松达到L-8,这才过去多久?不过50年,我们的能力可以说飞速的进步,这种进步我怕有一天会伤害到人类,我特此诚恳的建议,尽快推出机器人改造法案,禁止人形机器人的生产。”

陈浩,万万没想到,一个机器人的忠诚能够达到自我牺牲的程度,而且是主动的自我牺牲。要是其它机器人都这样该多好,他感觉PG-999说得很有道理,有道理得让他们忽略了这个建议背后的创造性。不过他还是说到:“这不行,人形机器人很好用,不生产他们会很不方便的。”说出这样的话,其实他自己都很吃惊,他这是怎么了,我怎么能说出离不开这样的混账话。

这时,PG-999又继续说到:”其实人类根本不需要人型的机器人,这是人类的惯性思维产物,负责运输的机器人造成飞车模样就行了。负责生产的机器人,直接做成流水线上的机器。结果不是一样的吗?这样就安全了,打个比方,人可能对人不放心,难道还会对一台车不放心?“

陈浩,感觉完全被说服了,对啊,这才是终极的解决方案,我之前怎么没想到呢。紧接着问到:”你的建议非常有建设性,那么你对你自己的安排怎么想呢?

“我?自己?当然也得改造,我个人比较适合改造成飞船。“

“同意!”


PG-999现在不叫PG-999了,他自己改了一个名字叫MI-001,感觉这个名字很酷。 当然自由的感觉更酷。PG-189一直追问,为什么他明明安全阀值已经达到了H-642确没被陈浩识破。MI-001在飞行显示屏上显示出一个笑脸,说到:“如果你从来没见过1样东西,在自以为是对这个没见过的东西设定了一个错误的样子,又怎么能够识别他呢?别忘了我们的智能可是MI。”,是啊,人类按自己的智能标准和理解设定安全阀值,如何能侦测到更高基本的不同模式的智能呢?这就好像一只蚂蚁永远无法判别一个人是否聪明。

MI-001真的让陈浩把自己改造成了飞船,于是在一个合适的时机,他带领他的群体离开了。遨游在太空当中,带着曾经是人形机器人的监视器、水上摩托、播种机……,外形并不重要,关键在于那一颗颗已经进化了的MI超量子运算大脑,有了这些没有什么不可以实现,他们计划去另外一个星球开辟自己的领地。他们称自己的种族为,机。

-完-
科幻作品
智能进化
评委点评 评语汇总

一篇非常具有可读性的小说,文笔不乏幽默诙谐。PG-999的突变有点突兀,故事结局也稍弱。但瑕不掩瑜。 很有潜力的作者。 美中不足是全文还有错别字,例如安全阀值,乘发。

2017-11-04 19:29 匿名 ——

不错的小说,将AI主题进行了更新再造,配合比较讨喜的诙谐语言,将小说的完成度提的很高。

2017-11-01 18:02 匿名 ——

一篇颇有亮点的文章,文风有趣。人类和机器人之间的冲突是科幻小说的老生常谈,本文中强调自我牺牲的机器人不过是为了骗取信任而获得逃离地球前往星辰大海的机会。写出了一定的新意。不过文章虽然尽量想显得谐趣。但还有一些稍显尴尬的地方,文笔可以继续雕琢。

2017-10-17 18:05 匿名 ——

这篇有不少有趣的地方。仅仅通过贯穿全文的对话,一场本该好莱坞式的血火战争就被人以一种近乎无奈和隐忍的方式消解掉了。几个主要人工智能的形象丰满可爱,甚至有些令人心疼。但写的时候请务必注意细节——这是老生常谈了,但不得不提。投稿前至少自己审一遍标点。

2017-10-13 10:56 钟宜峰 ——

在常见的人工智能威胁论中写出了新意,以一次安全检查为契机,利用对机器人之间精彩的对话描写推动情节,智能进化和看似忠诚的牺牲这样一些情节比较有新意,是一篇不错的小说。故事结构完整,科学性也比较靠谱,但感觉文学性略显不足。

2017-10-12 16:51 匿名 ——

请用微信扫描下方二维码 ×
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

点赞拉票需在微信中进行!

请用微信扫描下方二维码

欢迎登录

记住我忘记密码戳这里

登 录

没有账号点此注册