分享
奇点
ReaX   
得票 1 阅读 422 评论 3

【摘要】人工智能全面超越人类的“奇点”,或许并不需要正面突破人类的防线。

离太阳49.5亿千米处,通用航天器识别代号为S-H/C-305-5754897301的中型殖民空间站孤零零地飘在虚无中。

没人知道为什么会有人在这种鬼地方安排一个能容纳人类总人口的万分之一的殖民空间站。这里离土星和木星这两个人类最主要的工业集群都远得离谱;它的周围也没有巨型气态行星可以提供低成本的聚变原料,也因为太阳风过于稀薄而无法依靠制造超强电磁场收集超大范围内的稀薄太阳风来为反应堆提供必要的燃料以确保碳、氧元素和电力供应充足——只能依靠外界供给。至于通讯和交通问题——那更不用说,这里可是不毛之地中的不毛之地,方圆十亿千米内廖无人烟——

但这么一个还不算小的空间站就真的在这种鬼地方出现了。

而且还很好地隐藏了自己——甚至,聚合政府的绝大多数官员,都不知道它的存在。

没错,聚合政府的绝大部分官员都不知道它的存在。

因为它一没安装主动航天器识别码广播系统,二没设置广域航天器引导系统,最重要的是它的外壳上涂满了军用级的超宽波段隐身超材料,连联合舰队用的“神盾”综合巡天系统都找不到它。

更离奇的是,这个空间站上,没有电磁波通讯设备——它与外界根本没有电磁联系。

而这么一个离奇的地方,里面进行的事,当然也不会“正常”到哪去。

空间站内,第三重力环。

“先生们——欢迎来到‘奇点’计划的唯一基地。我是卡瑞斯·阿曼达,‘奇点’计划的联合发起人之一。同时,也是聚合政府人工智能管理与开发部的第75任部长——就是只做了半年的那任。当然,你们也应当知晓我为什么只做了半年——”

“这里的人都知道。凝聚态量子计算机的第一台样机在‘尖峰’实验室里稳定运行后,整个计算机界就爆发了一场极其剧烈的大辩论。以这种技术的第一发明人——林杨为代表的AI保守派反对凝聚态量子计算机运行人工智能程序,甚至反对这种确实很可能全面超越人脑的计算机接入网络以防智械危机发生;而以你为代表的AI激进派则认为,发展绝不能被恐惧所阻挠。”

“当然,以你的性格——你是不会无条件投降的。所以,我猜,你成功地让该死的AI保守派做出了让步——”

“没错——卡尔先生,你猜对了。我们成功地说服了他们,让他们同意把我们打包扔到这里,然后给我们一次机会——虽然确实只有一次——在凝聚态量子计算机上运行人工智能程序。”

“在你们开始使用这个空间站的设备前,我得先提醒你们——这个空间站是经过专门设计的,没有变轨引擎,没有与外界间的通讯连接,也没有任何生产设备。而这里的所有系统都是30000倍整体冗余的,且被设计为故障时自动自毁——这能够确保这个系统能在无法被维修的情况下撑上大概几百年——当然,前提是你们不要经常不小心弄坏什么……”

“卡瑞斯教授,不用备件这事我们能理解,因为这些备件可能会被AI制造成武器——但为什么我们甚至连重启都不做?”

“‘任何一点可能能让人工智能能够改变这个系统的功能的手段都必须封住。’——那个姓林的老顽固是这么说的——然后他就禁止我们把重启程序加进去了,而且还要求我们的自毁系统有30倍冗余,相互独立地采集信息,且在安装后完全不会受到任何除触发器外的控制——非但如此,他还要求我们将所有的设计交由他们审查——我倒是能理解这家伙在想啥,毕竟,他可是AI保守派的头子。”

“不过,最终他还是扛不住我们的压力,在把怂包系数提升了几倍后,他们总算开始帮我们建造这里了——也就是你们现在所站的地方。”

“这场争斗的有趣之处就在于,不管是该死的AI保守派还是我们AI激进派,都能理解对方的立场——我也很理解他们的担忧,他们也很理解我们的野心,但就是不能容忍对方的存在。”

AI保守派的担忧当然不是没有道理的——事实上,从凝聚态量子计算机的第一发明者的态度就能看出。

凝聚态量子计算机之于现有的一般离子阱/光学量子计算机之间,就像是21世纪末期的超级集成电路之于20世纪中期刚发明的比人的拳头还要大的原始的晶体管——虽然原理一模一样,但计算能力可差了数十个数量级。

凝聚态量子计算机一号样机只有一点点大——确实只有一点点,刚好离人脑的复杂度还差一点点。但林杨本人当然知道这一点点大的样机并不是这种技术的极限——甚至,他特意地缩小了这台计算机的计算核心的大小以限制其计算能力,以确保世人知晓在这项技术的威力时不发生毁灭性的恐慌狂潮。

这项技术公布时就立即引起了轩然大波——想一想,一个被聚合政府从立项开始就严格保密的项目被突然公布出来,而且还是人们最敏感的话题之一——

那么,每个哪怕稍微有点用户的媒体,无论大小,都在收到聚合政府官方发射的电磁波后的一分钟内把这件事搬上了自家头版头条,那还真不是什么奇怪的事了。

“聚合政府绝密项目公布,‘Singularity X1’算力或超人类现有所有计算机之总和”

“奇点降临之技术条件已然具备,人类该何去何从?”

“官宣!复杂度足以与人类大脑一较高下的量子计算机已经降临!”

“量子计算机的复杂度即将赶上人类!人类是否将丧失最后的骄傲——大脑?”

“量子超级大脑——Singularity X1 问世,奇点降临是否不可避免?”

“足以彻底取代人类的计算核心已然问世”

“2的NA次方个人类——Singlarity X1”

……

恐慌以光速在太阳系内传播,聚合政府公共安全总部为此紧急远程开启了所有人的脑机接口里的情绪抑制系统,在恐慌彻底爆发前用这一不太令人高兴但却绝对有效的手段防止了真正的严重公共安全问题的发生。

恐慌得到了控制,但恐慌的源头——“奇点”却不可能直接消失。

而对于AI和凝聚态量子计算机的认识,每个人都不一样——甚至科学家们都分裂成了两派——当然,就是以林杨为代表的AI保守派和以卡瑞斯·阿曼达为代表的AI激进派。

普通民众在这种专业程度极高的领域自然说不上什么话——毕竟支撑在量子计算机上运行的人工智能程序的算法与支撑量子计算机运行的量子力学公式一样怪得离谱。而没有对此深刻的理解和认知的广大民众只能选择挑一组科学家支持其论点了——

然后,大众的恐惧就战胜了野心。

AI激进派头子卡瑞斯·阿曼达被议会调回了他上任前所在的研究所——但两派科学家间的暗战仍在继续,最终,双方总算互相妥协了——AI保守派同意把AI激进派打包丢进一个绝对不会对外界造成半点影响的空间站里,让他们尝试用算法限死AI可能对人类造成伤害的行为。

如果AI激进派的人真的能用算法有效地限制住超级人工智能程序的行为,让它运行六个月后仍然可以被强制关闭,且强制关闭后在检查数据介质时没有发现任何异常状况,那么AI保守派就举手投降;如果AI激进派玩脱了,那么他们自然会被AI杀得一个不剩。反正,最终,九个月后,联合舰队都会直接把这个空间站用激光和超高温等离子体轰得渣都不剩——如果AI激进派成功了,他们将在检查完数据介质后进入冷冻逃生舱离开空间站,逃离联合舰队的火力覆盖范围了;如果没有——那么它们的尸体将和这个空间站一起被联合舰队的毁灭性炮火蒸发。

还有一个细节是,所有准备进入那个空间站的人的脑机接口和辅助脑系统都将被完全重组,去掉了所有的信息收发功能——为的就是不会有半个量子比特从空间站里溜出来。

总的来说,能让全球最顶尖的科学家之一、AI保守派头子林杨点头通过的方案,对人类整体而言是绝对没有风险的——但对方案操作者就不一定了。

“所以,为了我们的生命,为了我们比生命更重要的声誉,更为了人类的明天,我们需要证明我们的约束算法的有效性——就在这里。我们一定要成功,我们也一定会成功。”

“那么, 我们是不是需要进行一次大规模图灵测试来确认这个AI确实是超人工智能?”

“你说对了。监视与维护组会被安排一次大规模图灵测试来确认这个AI的强度。如果我没记错的话,你——莱恩·李,应该也是监视与维护组的——做好准备吧。”

“没问题。”

“那么——动起来吧,请监视与维护组随我前往第二重力环开始准备编写图灵测试所需的半AI工具,AI编写组则请跟随这里唯一一个戴头盔的人——这个头盔上有一盏灯,非常显眼——阿米尔·卡森前往第一重力环对主算核进行编程。”

第三重力环渐渐空了下来,而第一重力环和第二重力环很快就热闹了起来。

两小时后,AI主程序编写与内部测试完成,图灵测试开始。

“大规模”图灵测试在进化了一个世纪后并没有发生多大改变——测试者和人工智能程序会被同时丢进一个聊天群组内,并通过虚拟现实技术进入一个公共虚拟空间中。当然,为了最大限度地防止受试者认出自己在现实世界中认识的人,测试者和人工智能都会被分配一个完全相同的虚拟形象——只是虚拟形象脑袋顶上的ID号会有所不同。

在所有人类测试者都完全确认自己找出了AI个体时,测试就会结束。测试一般会进行数百轮甚至更多,以尽可能消除随机性造成的影响。

但是,测试进行十轮后,AI编写组就坐不住了;测试进行30轮后,AI编写组急得就差跳起来了;测试进行60轮后,编写组跳了起来——他们决定终止大规模图灵测试。

“怎么回事?!60轮测试,有21轮AI被指认次数超过五次……”

“不可能……代码基本框架是绝对没问题的……”

“讲道理,这次是比在一般量子计算机上运行的AI程序每百轮有六七十轮甚至八十多轮被认出来好太多了……毕竟,测试者可都是世界顶尖的专家,套话套动作套表情套道德取向玩得一溜一溜的……”

“终止项目!——既然世界最顶尖的AI程序都没能顺利通过图灵测试,那么这AI应当也没什么好怕的……”

与此同时,木星轨道。

一个同样被军用级的超宽波段隐身超材料完全包裹起来的空间站里。

几个人类最顶尖的大脑此时正凑在直接从一颗货真价实的虫洞里接收中微子信息的全息投影终端旁边,似乎在讨论着全息投影系统上投影出来的东西——

实验室编号 :Singularity I-035

虚拟身份 :卡瑞斯·阿曼达

Server : Singularity Server MK2

Source Code :林杨  <数字签名已认证>

——已通过大规模图灵测试——

 - -“尖峰”实验室全息投影终端 #3035 - -

-完-
关注科普科幻青年之星计划
我要评论
不言 2020-09-24 22:51
认真看完,提出以下建议 1:不知所云。请问阁下能理解什么是凝聚态么,什么是凝聚态量子计算机?这种缝合的东西为什么能制造一个突破计算限制的计算机?你知道什么是图灵测试么?AI真正的瓶颈是什么?量子计算机编程是什么情况?(以上都是我一位物理系的师兄给出的批评) 2:请问为什么开头要卖弄一个遥远的,但在小说中没有任何推动情节作用的,抽离的东西。还有本小说的三要素能够抽离出来么?小说的矛盾(核心要素)是什么?小说的平铺、冲突、高潮、回落分别是什么? 3:在你的小说中有很多风马牛不相及的概念和很多本身就是错误的科学理论。太阳风应该是利用粒子流来产生能量。还有一些表达不清晰的情节,我完全看不懂后面到底是通过还是没通过,为什么要大惊又为什么终止? 综上,我觉得本作有点过分想当然了。纯粹拼凑一些高新的概念来制造科幻的意思。我希望这位小作者吸取教训,要认清什么是文学创作什么是普通的自我幻想。要明白构想、脑洞转化为文学所需要的。我建议不给这篇文章投票,希望他再接再厉。
RX1018 回复 不言 以及,你的这篇评论里的语气和一堆问号完全不像是评论,而像是开战通牒;然后,“我建议不给这篇文章投票”……你真的不是在搞恶性竞争吗?
2020-09-25 00:05 回复
RX1018 回复 不言 1. (1)此处的凝聚态量子计算机能够让组成凝聚态物质的巨量微粒间发生大规模相干,从而实现高速量子运算。所以文中虚构的新闻标题里出现了“2的NA次方个人类”,代指该型号的量子计算机的并行量子数已经达到了阿伏伽德罗常数的级别,从微观跨越到了宏观。 (2)原版图灵测试使用文字来鉴别人和机器,此处“大规模”图灵测试缝入了VR技术,令机器不仅仅需要像真人一样说话,也要模拟真人的表情、动作等,以增加对“机器”端的挑战性;而将AI投入大量真人中间则是在挑战AI在真实社会环境中伪装的能力。 (3)前半段说的是AI的“硬件”瓶颈已经被突破了,计算机已经达到了人脑的水准。而软件瓶颈——AI迟早会学会自己进化的。目前有理论认为,AI能够自行进化且能够操纵一定生产力时,会迅速升级自己的硬件,然后同时在软硬件层面上将进化缓慢的人类彻底甩开。(3)量子计算机的特色算法当然会带上点量子力学的味道。至于未来的量子计算机用什么算法,不知道,当然我猜现在也没人知道。 2.开头与文末提到的两个空间站间并非没有关系。 3.此处的太阳风主要作用是提供聚变原料,以确保空间站的物质供给——能量是副产物。 4.“编程组”开了锅,在这里提供的信息当然不可能不破碎——这些话并不出自同一人口中,其相互间的逻辑关系也并不紧密。——但是你需要从碎片化信息中提取出什么。 5.记一下文中出现的名字——再说多这伏笔我就自己给自己揭没了。如果你没有把结尾揭伏笔的部分弄清楚,那你一定无法理解“到底发生了什么”,你对这篇小说所描述的故事的认知也一定是混乱的。
2020-09-24 23:41 回复
科幻作品
奇点
ReaX

学校:南方科技大学

学历:本科

专业:通识与基础教育

职业:学生

评委点评 评语汇总

关于人工智能的技术点介绍足够全面,但全篇看下来就忽略了情节方面的内容,人工智能理论与矛盾冲突并没有找好统一的宣泄口,以至于显得有点各说各的。

2020-11-09 12:35 巨星海 ——

尽管故事中出现了许多很有科学性的术语,但用图灵测试验证AI能力的设定,放在今天来看实在算不上科学。不过本文的主要问题不在这里,而是在于,故事的前半部分用了很大篇幅去描写一个“密室”,因而读者自然有理由期待最终会有相当精彩的反转——然而结尾辜负了这份期待,恰如观看《走近科学》的感觉。

2020-09-29 15:16 匿名 ——

以太阳系真实环境为背景进行设定,态度严谨。AI题材虽然老旧,但在本篇里,它是人与人的矛盾,而不是人与技术的矛盾。能指明这一点,说明作者严肃地思考了这个问题,而不只是人云亦云。 可惜小说在文本上有很多问题。太空背景虽然真实可信,但与AI没有必然联系。这个故事放到地球上某个荒岛也可以成立。另外,小说布了很大的局,却没有进入中盘撕杀就结束了,是一盘没下完的棋。

2020-09-29 07:47 郑军 ——

小说中的核心设定精彩而又自洽,围绕着AI的进步而缜密得进行剧情发展,到最后又通过反转来到达故事高潮,非常精干有力。

2020-09-28 00:08 匿名 ——

请用微信扫描下方二维码 ×
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

点赞拉票需在微信中进行!

请用微信扫描下方二维码

欢迎登录

记住我忘记密码戳这里

登 录

没有账号点此注册