分享
人工智能辩论实录
张汝成    来源社团:九三学社
得票 53 阅读 748 评论 3
先看评语
· 在科技迅猛发展的今天,人类一方面在质疑“后人类”还是不是人类“,另一方面,对人工智能发展或喜大普奔,或忧心忡忡。我个人理解,《人工智能辩论实录》这篇小说的作者显然并不乐观:代表人类最高水平的辩手陈科是靠着人类的智慧——利用规则漏洞潜入学校机密的AIETC算法库,窃取算法并修改人工智能方四辩的程序,凭借着这样的”智谋“保全了人类的尊严,又一次取得辩论赛的胜利,并维持了15:0的不败战绩。作者是在歌咏人类的智慧以及不可战胜,最后的胜利一定属于人类吗?在我看来,这个结局多少有些不那么光明正大的味道。相信更多的读者会和我一样,会因此有更多的思考:人工智能向人类情感发展(赋予它情感)的边界在哪里?这种边界以及保障手段是否有可能被突破?人类究竟应该如何与人工智能共存?…… 应当说,作者本着IF……What的原则建构起来的故事能够做到逻辑自洽,前半部分的悬念在后半部分基本上得到了回应,但作品的文学性仍有较大的提升空间。作者必须考虑读者的期待:比如,对陈科 如“壮丽的烟火秀“的四辩辩词,后半部分如果在陈科那封信后再有一番再现,故事是不是会更好看?陈科这个角色是否会更完整和生动? · AI与人类的高下较量,是很热门的话题,因此谈出自己独到的见解是不容易的。在作者塑造的世界中,AI与人类开展了一场有关辩论的军备竞赛,到目前为止,还是人类略胜一筹:在情感表达上,我们更狡猾。 作者逻辑能够自洽,文字偏向于理性,而文学性较弱,建议增强文学表达的训练。作品视野偏于狭窄,仅仅关注了辩论者,而未关注观众的感情(观众对不同辩手总该有情感倾向吧?),因而氛围营造不好,文字倾向于说理性。在这个话题上有很多可以深挖的东西,希望作者可以更广泛地思考,为作品增加更多细节。继续加油吧! · 在未来,AI的进步太快,将大幅度冲击人类社会行为。人类与AI的辩论,人类翻盘胜出,这个设定起点太高,需要作者有扎实的写作功底、辩论知识、科学幻想功底,但通篇平淡无奇,内容深度不够。 作者站在了人类这一方,让读者有了亲切感与自豪感。 · 整篇文章通过对话和说明来展开,缺少情节张力,较为枯燥。设想的人工智能情感问题,和科学研究的逻辑事实并不相符。 · 尽管很少找到机会亲身经历辩论会的氛围,但此故事自有其它吸引我的地方。 自上世纪中叶“人工智能”的概念提出以来,围绕“让机器像人一样思考”的研究和尝试从未停止过。从最开始的“赋予机器逻辑推理能力”,到当今主流的“知识和推理”思路,作者在故事中提出了另一个实现真正人工智能的观点:“知识、推理,和情感”。 以辩论赛过程推,足见为人工智能设立情感算法后产生的效果:更细致的判断、更准确地把握人心,人工智能得以依赖此在比赛中获得巨大优势。然而人为的情感编程终归聪明反被聪明误,情感算法中存在的漏洞,最终还是为另一方的胜利铺平了道路…… 这不由让人思考,当我们惊叹于机器自主学习下棋后能比有监督学习玩得更好,之于机器的情感,自主学习会不会亦能取得更好的效果?在机器的情感萌芽之后,除了让人工智能再进一层,它们是否应该有隐私,它们是否应该享受和人对等的权利?以辩论赛为出发点,这个故事稍微提供了一点远景。

【摘要】如果给人工智能赋予情感,那么与人类会有哪些差异?在一年一度的“全球智能大会”压轴节目人工智能辩论赛中,我代表人类战队和AI战队进行了针锋相对的辩论,人类战队赢得了胜利,但是背后胜利的原因,却大大出乎意料。

“请注意,反方,时间还有2分钟!”

我看了看舞台正中的计时器,数字在硕大的复古式的LED电子钟上飞速跳跃,分秒之下是这次辩论赛双方的实时支持率:正方36,反方64。

看来将会是一场惨败。

我作为正方队伍的第三辩手,本应该在自由辩论这个环节大显身手,用快速的思辨和犀利的言语给对方致命一击,但是现在,面对对方毫无破绽可言的论证和辩驳,我方的四人面面相觑,又无可奈何,好像所有的挣扎都是徒劳,所有的言语都会陷入对方提前布置好的论证陷阱中。

“正方提出的AI小说创作的例证,恰好加强了我方的观点,即人工智能的知识结构并不是由人类定义的……”反方三辩依旧“坐”在辩论席上,神采飞扬,口若悬河。他是一台NOSTAW-XV型辩论机器人,准确来说,是为了这一次“全球智能大会”而特意升级了AI程序的全新机器人。为了保证全球转播的观看效果,他也被设计成了人形:有鼻子、眼睛、耳朵和手臂,甚至可以结合说话语气,准确的操作关节机关,或挥动手臂慷慨而谈,或摇头晃脑抑扬顿挫,他被固定在辩论席的桌台上——实际上是为了全球转播能更好地捕捉他的表情和神态细节——不过对我而言,幸好他没有被设计成走来走去的样子,否则我现在一定会更加心烦意乱。

这场辩论赛是“全球智能大会”的传统压轴节目,据说全世界有30亿人和数量更多的AI大脑会观看直播。早在20年前的2018年,远古科技大鳄IBM公司的人工智能产品Project Debater在一场试验性质的公开辩论赛中首次击败了人类选手而名声大噪,辩论机器人就被认为可以代表AI思维的最高水平而备受推崇,尤其是近5年来,辩论机器人在“全球智能大会”上有着炫目表现,不仅展现出了学识广阔、思维敏捷的特点,还在言语上加入了变幻莫测的语言艺术,或戏谑幽默,或情深意长,随便一开口都能变成时代金句,所以越来越让人们期待,有报道说,今年这场辩论赛的全球独家转播费已经比5年前提高了将近100倍,但仍然让转播商赚的盆满钵满。

尽管IBM早已在那场横扫全球的贸易战后迅速衰败下去,人工智能的主舞台转移到了大洋彼岸的东方后,却有了更迅速的发展。AI机器人开始和普通人类一起学习和工作,一起创作和争吵,甚至如今天一样,一起站在全球关注的数十亿目光前,唇枪舌剑,针尖麦芒。

“请问正方三辩,你们认为人工智能的知识结构由人类定义,那么如何解释现在AI比普通人更博学这个事实呢?”对面的机器人仍在高谈阔论,我们这边空有大把时间,却早没有了反驳的气势,好在依照规则,自由辩论没有用光的时间,可以补充在最后的总结陈词里。

而我们负责总结陈辞的四辩,正是我们的王牌,连续4年在辩论赛中代表人类战队战胜了AI战队,被誉为“人类智慧的骄傲”,他也是我在中国智能大学的学长,名叫陈科。

我汗涔涔地看了看身边的陈科,让我颇为惊讶的是,他竟然也露出了怯战的神色,全然不如往常比赛一般,兵来将挡,泰然自若。主帅这般慌张不已,却让我有些愤慨。

“你昨天晚上可是信心满满的跟我们说:这场比赛已经找到了策略,人类必胜!”我在旁小声嘀咕,陈科也不看我一眼,依然紧皱眉头,那种不知所措的样子,竟让我觉得非常做作。

 

陈科,中国智能大学的传奇人物,享誉世界的人类辩手,无论在知识量、反应速度还是比赛经验、竞技气质上,他都可以说是个中翘楚,无数少年的榜样;我就是他众多崇拜者中的一位,从他宣布加入中国智能大学思维研究院的时候,我就下决心,一定要追随他的脚步。还记得入学第一天,陈科就坐在中国智能大学校长周中华的身旁,作为学生代表发表致新生的贺词,在台下无数企盼和渴望的目光中,他说道:

“祝愿所有新生都能在思维研究院中感受到,作为人类的自己在自然界中是多么的优越!”

青春激昂的年代,口无遮拦的表达,锋芒毕露的陈科同学如在像辩论赛中一般口吐莲花,侃侃而谈,惹得掌声欢呼声不断,而周老校长就一直如慈父般微笑的看着他,偶尔鼓下掌,更多的是颇带期许意味的点头。

从那以后,我们便在一个实验室里共同奋斗。思维研究院中有许多有意思的前沿科技研究课题,比如我们隔壁的“人体增强技术实验室”,他们的课题是想办法把AI设备与人体结合起来,例如给人脑外挂一个具有计算、存储功能的AI大脑,让人类脑力更加强大,记忆更加持久,又或者给人眼中移入一个电子虹膜,让人们在看见一件物品的同时,也可以同时“看”到物品的名称、规格和用途。

而我们的“对手”,那些强化人工智能系统学习能力的课题组,也在夜以继日的进行着技术的革新和突破。他们是真正的盈利部门,他们通过各种渠道商,将设定好学习程序的辩论机器人卖给英国议会,也把AI语音程序卖给世界各地的银行和保险公司,让他们充当工作高效而价格低廉的智能客服。

不过在最近两年,据说关于这方面的研究突然陷入了瓶颈,越来越多的程序缺陷被识别出来,甚至关于这些AI机器人并没有通过“图灵测试”的质疑声甚嚣尘上——虽然各家应用厂商都宣称这些机器人可以像人类一样交谈与思考。

在重压之下,周老校长毅然带头推翻了几十年来他一直坚持的观点,成立了新的机器人实验室——“人工智能情感训练中心(AIETC)”。这是颠覆性的一个举措,以至于这个决定甫一发布,就引发了全球大论战,多数人还是坚持,让机器人拥有情感,无异于将砍刀交给了一位力大无穷的罪犯,人类无法控制他们的情感,必将导致全球性的AI灾难。

情感训练中心就在这样的论调下秘密成立了,除了少数几名神经学科和人工智能学科领域带头人,所有人都不知道这个实验室的具体研究方向和内容。有一次,我和陈科路过那间戒备森严,连从门缝中透出的光都散发着蓝色神秘色彩的屋子,我不禁感叹道:“不会几年之后的某天,突然从这间屋子走出一个浑身发光的生化人吧!”

“生化人?”陈科突然停下脚步回应,“让机器人拥有像人一样的情感,或者给人体植入各种设备,让他们拥有机器人一样的能力,你觉得哪个更像生化人?”

“你说咱们隔壁实验室的研究?”我略微思索一下,吞吞吐吐道:“我……我倒是觉得,他们在制造同一类东西吧!”

陈科突然笑出声来:“哈哈,你想的太简单了。我问你一个问题,你能描述你的知识结构吗?”

“当然可以,我可是受到过专业教育的,从数学开始,微积分、几何学……”

“别说是你,我都能大概描绘出你的知识结构,”陈科打断我,“那我再问你,你的情感结构是什么样呢?”

“情感还有结构吗?”我稍稍迟钝,略微回忆了一下已经丢掉很久的心理学知识,“也许有吧,比如喜怒哀惧的基本情绪,还有,还有……哎都忘得差不多了。”

“你这个回答太书本化了,这恰恰反映了你的知识结构。”陈科拍了拍我,说道:“你不觉得吗,其实人的情感结构是一个无限复杂的随机系统,不仅每个人都不一样,而且经受一些外部刺激后,每时每刻也都不一样。”

他继续说:“你可以在一个无限的体系上叠加一套有限的结构,让增加的这些东西发挥它的能力,却很难在一个有限的结构上面试图叠加一个庞大近乎无限的系统,那样原来的结构也会因为不堪重负而彻底垮掉。”

我似懂非懂的点点头。

“没明白吧?你刚才说喜怒哀惧,我就拿‘喜’举个例子吧。”陈科看着我,而我看着他眼中闪烁出的光芒。“比如我对你说:你真是太聪明了,听到这句话,你心里是什么感觉?”

“那我肯定特别高兴啊!”

“但是如果是一个你觉得特别刻薄的人对你说这句话呢?”

“嗯……我会感到不太爽,也许他在挖苦我吧。”

“可是如果你刚刚帮助了他,你觉得他是真的感动了呢?”

“这个……我知道了,虽然都是听到了‘你真是太聪明了’这句话,但是因为我感知的情境不同,或许会产生不同的情感。”我有些恍然大悟。

“差不多吧。人工智能的基础就是规则和算法,无论你如何为它设定一个多复杂的规则,恐怕都无法穷举出正常的情感变化所需要的所有内外部条件。”

“我好像懂了,但是如果我为他设定一个随机数值,让他可以在一定的范围内切换情感状态,就是我们人类一样呢?”

“这是一个好问题。但是你想一想,这个随机数设置的太小,他就是一个显而易见的机器人,如果设置的太大,他也许就会变得喜怒无常……谁会觉得无理由的喜怒无常也是一般人类的表现呐!”

……

陈科是我在“AI思辨实验室”的学长,也被公认是未来的学科带头人,他说的这些话,我都当作是金科玉律,牢牢地记在了心里。

 

——而现在,就在全球瞩目的赛场上,他却一反常态,不仅没有表现出以往比赛中的举重若轻,反而紧张兮兮,在高清直播的镜头下,可以清晰看到汗珠从他的额头渗出。

“反方自由辩论时间到。请问正方有补充吗?”舞台中央的机器主持人望着我们的方向。我有些泄气,比赛到这个局面,实际上已经很难扳回了。

32对68。

这是一个巨大的差距,但是陈科在他来到中国智能大学的第二年,曾经创造过在四辩位置上弥补40分分差的奇迹——我想这也是之后学校每年都执意要把他放在四辩位置上的理由。

根据规则,当前优势一方率先进行总结陈词,对方的人工智能辩手也是NOSTAW-XV的最新型号,他是三辩机器人的算法改良版,据说在内测中,他对三辩机器人的战绩是82胜18负。

人类智慧就要失败了,这是15年来的第一次。

有些讽刺的是,好在由于在自由辩论环节中的不作为,我们为陈科多赢得了2分钟的时间。而陈科——他还会是那个创造奇迹的人吗?

我不禁转头看了看他,在机器人的慷慨激昂中,我看到陈科正在反复胡乱整理着桌上的辩论稿纸,而稿纸上并无一字。

完蛋了。

我心想,连我们最后的王牌都已经自乱阵脚,看来那个神秘的门缝里冒蓝光的实验室,最终还是成功了。

 

当年秘密成立的AIETC,经过老校长和一众科研工作者的努力,不仅合法化,而且已经开花结果。在几天前的发布会上,这个神秘实验室公布了他们的最新成果。

“NOSTAW-XV型是严格意义上第一代拥有自主情感的机器人,他拥有自己的喜怒哀乐,甚至有同理心和羞耻感这些高级情感,他看到弱小时会有泛起同情,看到强大时会生成恐惧——总之,这是划时代的一步,将AI和AE(Artificial Emotion,人工情感)完美结合到了一起。”

我就在发布会的台下,看着多种类型的NOSTAW-XV一个个被摆到台前,感叹科技的进步,却又担心起后面的比赛,毕竟我们在辩论赛这个压轴大戏的对手,就是这些“划时代的选手”。

“你相信吗,如果真像他们描述的这样,我敢说咱们肯定会赢得最后的比赛,而且根本不用做太多的准备。”身旁的陈科突然对我小声说道。

我无法质疑他,因为他的表情如此自信。

“你还记得我们两年前的一次对话吗?察言观色、喜怒哀乐……这些情感能力在这么短的时间内被开发出来,说明他只是建立在以规则库为核心的算法引擎上。”

“而且你也听到了,他们这次升级,最重要的部分是能够根据对方人类的微表情,做出合理判断。或许我们就可以利用这一点,给他们制造出一些假象……”

哗——

我正要继续询问,会场上一阵巨大的掌声夹杂着口哨声和惊叹声,打断了我们的对话。

舞台上的两个NOSTAW-XV不知因为什么,突然互相推搡了起来,其中一只脸上竟然泛起那种人类在气急败坏的时候才会出现的表情。

“我们的每一台机器人都有自己特有的个性,就像我们每个人一样。”主持人再次提升了语调,伴随着又一阵聒噪。


不出意外的,情感机器人在发布会后,一直占据着“全球智能大会”的新闻头条位置,无论是AI伦理学家,还是机器人制造商,都在不遗余力发表自己的观点,为了各自的利益。这一定程度上冲淡了最终辩论比赛的紧张程度,但从另外一个意义上讲,大家也都拭目以待,看着这些种着情感的种子,头脑又无比发达的家伙们,在真正的比赛场上会发挥出怎样的水平。

现在这个答案快要水落石出了,按照机器人三辩的表现,四辩马上就应当用充分的论据和犀利的言语,杀的我们片甲不留——尤其是在我们唯一一张底牌无法亮出的时候。

“我方认为人工智能的知识结构并不是由人类定义的,原因有三点。第一、人类编写的人工智能学习算法,定义的是知识的获取方式,而不是知识的获取内容。”NOSTAW-XV以一种异常平和的语气开始了他的总结陈词。

没有慷慨激昂,没有手舞足蹈,如此平静的表达出乎我们所有人的意料,也稍稍缓和了赛场上有些压抑的气氛。看得出来,身旁的陈科稍微放松了些,起码不再折弄那些空白稿纸了。

“……第二、从现在发展的人工智能看,个体之间都有独有的个性,从获取知识的角度上,每一个人工智能都能自主选择感兴趣的内容……”NOSTAW-XV看起来并不急于攻击我们之前的论据,反而突然有了一种缓和的态度,不像是一场辩论赛到最高潮时候的盖棺定论,更像是寻求和解的一种方式。

现场观众有一些骚动,他们希望看到更加锐利的攻击、更加戏剧性的表演,而机器人四辩很显然没有达到他们的要求。

陈科此时并未认真记录对方的言论,用来做最终陈述时的针对性辩驳,我依稀看到他似乎正在与对方的四位辩手进行眼神上的交流,他身体微微前倾,脸上似笑非笑的神情,眼睛里透出柔和的光,甚至给人一种低眉顺眼的感觉。

“陈科,你倒是写一下啊。”我小声提醒他。

他摆了摆藏在桌子下面的手,回应我不用着急。然后他将食指和中指贴紧竖起,冲着我比划了一下。

这是我们在赛前约定的暗号,表示“一切顺利”。

 

辩论队伍中的四位成员必须有非常好的默契,这方面人类比机器人逊色很多。人工智能所有的计算和存储都可以云端共享,而每一个机器人个体的传感器也都能够相互访问,也就是说,我们人类的每一个动作细节、每一句话的语气音调,理论上都能同时被所有的机器人辩手捕捉到。他们的沟通成本是零。

我们在每一次的赛前准备会上,都会制定几套进攻和防守策略,准备所有己方和对方的论点论据,分析对手可能出现的破绽,而约定一个隐蔽的、不能被机器人发现的手势暗号当然也是其中的一个内容,这决定了我们应当使用哪套战术,大部分时候辩论赛的成败不在于个体水平是否高超,而在于团队作战是否步调一致。

陈科就是我们这个团队的主脑,而他决定了我们今天比赛的整体策略。就在昨晚的准备会上,陈科向我们布置了一个听起来匪夷所思的战术:

“明天的辩论会,我希望大家在一开始的观点陈述和自由辩论环节,一定要示弱,不要展现出太强的实力。他们的观点,咱们不要直接驳斥,语气尽量放平和,语速要慢一些,他们对咱们提出的问题,都不要正面回答。我们要让他们先得意一会。”他顿了顿,不顾我们的面面相觑,继续说道,“自由辩论的环节,咱们务必节省时间,少说话就没有容易被抓住的把柄,多留时间给最后的总结陈词环节,我已经找到了这场比赛必胜的策略。记住,大家一定不要做出求胜的行为——人类必胜!”

 

于是今天,尽管顶着巨大的问号,我们依然严格执行了这个战术,任凭对面的狂风骤雨,我们就是无动于衷。每个人心里都是一团迷雾,除了陈科。

他的目光渐渐明亮起来,整了整衣衫,用袖口擦了擦额头的汗水。他把身体坐直,拿起笔,在稿纸上运笔如飞。

“搞什么鬼!早干什么去了!”台下有些激进分子嚷嚷起来。

机器人辩手也好像一怔,然后把他们最后的话说完。“所以尽管对方找了一些支持正方观点的例子,结合以上三点,我们再一次重申:人工智能的知识结构并不是由人类定义的。谢谢评委,谢谢大家!”

稀稀拉拉的掌声。

说老实话,机器人四辩的表现非常失败,既没有流畅如水银泻地的表达,也没有铿锵如千军万马的气势,这确实非常出人意料,我猜陈科一定知道并且利用了他的一些弱点——是他曾经说过的,要制造假象吗?

我无暇多想,看了看记录支持率的巨大电子屏。31 VS 69。

此时陈科缓缓地站了起来,他竖起了衬衫领口,仿佛瞬间恢复了一直以来的骄傲。他有整整8分钟的时间,代表人类绝地反击。

全场屏气静声,都在期待着这个曾经创造过40分翻盘奇迹的年轻人,在褪去了少时的锋芒和稚嫩,变得更加成熟后,会带来怎样精彩的表演。

 

后来的历史书上写道,这8分钟的时间,浓缩了“全球智能大会”创办以来所有的精彩,他创造了一个时代。

陈科的总结陈词,从平静开始,宛若在大西洋深处慢慢形成的风暴,在每一字每一句中渐渐积聚力量,由远及近铺展开来,直到你目光能及的地方,已是巨浪,是海啸,惊天震地,席卷着天上的星辰和海中的礁石,变成无可阻挡的力量。人类语言的魅力,不在于咆哮和呼喊,每一个掷地有声的音节,如子弹穿胸的致命,如自由落体的畅快,都调动着听者每一处听觉神经,在大脑中幻化出成百上千的奇妙图景。他针对比赛中对手的每一处漏洞开始进行精确打击,锋芒暗藏却招招见血。经过这些年的历练,陈科不再追求锋利的言辞和华丽的修饰,而更加注重每个字的力量,他用最少的语言,将对手彻底杀死,且无翻身的可能。

8分钟的时间,如同一场壮丽的烟火秀,伴随着漫天绽放的光华和轰隆隆的巨响,是地上人们一阵阵的惊呼和赞美。

55比45!

这时最终的比赛结果,机器人战队再没有反抗的机会。陈科又一次创造了奇迹——也许这对于他来说并不叫奇迹。

全世界都沸腾了,直播方主持人已经声嘶力竭,呼喊着陈科和我们每一个人的名字;各路记者迅速把我们包围起来,可还没摆好采访的架势,激动的现场观众已经冲将上来,将我们团团围住,我们不得不和所有人逐一拥抱。

天空中放起了真正的礼花,映衬着每一个人类的笑意盎然。这真是一个难忘的夜晚,会场屏幕上打出了“人类:15;AI:0”的字样,这是15年来,在这块场地上,人类对抗人工智能的总战绩。

 

今年的“全球智能大会”就此落幕,而人们将彻夜狂欢,人类和机器人的摇滚乐队轮流在现场制造噪音,打扮招摇的20、30后新人类开始了他们的秀场时间,这些大多复古装扮,脸上用金属和油彩拼凑成怪异图案的年轻人,释放着满溢的荷尔蒙。世界各地知名的人工智能大厂在这里都可以找到,在流动商贩的推车上,在冒着诡谲荧光的霓虹灯上,在每个人的手上和身上,当然也有学校出品的硬核成果,比如外挂脑和电子虹膜,当然也有千奇百怪的机器人。

我兴奋的心情还没过,虽然知道这比赛因为有陈科在,大概率是输不了的,但是在他的策划下,我们连同所有观众一起,坐了一回略感惊悚的过山车,翻滚之后的平静中,是回味无穷的激动。

陈科却从赛后拥挤的人群中,找个机会逃开了。这是他的常规操作,不喜欢在喧闹里把自己抬到聚光灯下,这个时候他应该在周老校长的办公室里,与一班青年才俊一起,畅想着人工智能的未来。

这是他以学生身份参加的最后一次辩论比赛,自然有非常多的情感去抒发。

 

When I am king, you will be first against thewall

With your opinion which is of no consequence atall

……

舞台上响起了40年前的怀旧经典,在迷幻的节奏里,摆动着韵律相仿的肉体和机械。曾几何时,人类无数次幻想和人工智能共存的世界,描绘了无数种冲突的场景,比如人工智能不堪奴役奋起反抗,或者人类灭亡在机器人的世界里——不过至少现在看,我们还不需要过分担心,哪怕机器人已经有了所谓情感的萌芽,他们仍是值得信赖的舞伴。

 

第二天一早,我被一阵急促的电话声吵醒,比赛已经结束,身体依然延续着紧张感,尤其当我看到了人工虹膜上显示出来的电话号码,感觉神经一下子就绷紧了。

“你还在睡吗?快起来,陈科出事了!快来周校长这里……”

我来不及听完,也管不了被昨晚狂欢夜折腾得有些酸麻的身体,三步并两步,近乎踉跄地向外跑去。在往校长楼的路上,我脑补了无数种可能性。

得罪记者?乐极生悲?都不应该啊,他又不是第一次参赛,在我印象里,他是一个遇到什么事情,都能用理智和缜密的思维来解决问题的人。

走近校长楼,没有围观人群,也没有记者,只有四个学校的安保人员守在门口。见到我急匆匆冲进去,他们用手挡了一下,并没有做实质性的阻拦。

“全球智能大会”结束后,学校进入了假期,整个校长楼几乎空无一人,所以尽管校长办公室里面人的交谈声音并不大,却仍能够穿过几层楼道,在空旷的大厅里回荡。

“陈科确实违反校规,侵入了学校机密的算法库,但是比赛规则里并没有写,不能提前了解对手,所以比赛结果不能改变。”这是我们实验室教授的声音,听得出来,平常老成持重的他现在也有些着急。

“你不觉得这对于我们的工作是极其不尊重的吗?”这声音很年轻,充满了愤慨。“就是因为他窃取了我们的算法,然后才选择了一个最投机取巧的战术,这是严重的偷窃行为和学术腐败!”

“真是笑话!陈科连续赢了这么多届,他犯得着走这种捷径吗?”

“违规就是违规,这种情况必须重赛!我们这么多科学家,这么多努力,本来可以让这个比赛更精彩……”年轻的声音越来越激动。

“昨天难道不精彩吗?你们那么多努力,我们搞了些小技巧就比不过了,是不是应该你们自己认真反思一下,你这算法健壮吗……”

“好了,别吵了。这件事情学校会给出一个处理意见。比赛结果不可能变,也不会重赛。学校会加强对你们AIETC的资金支持力度……和安保强度。”周老校长打断了这辩不清结果的争吵。他看见门口的我,“你也过来吧,咱们人都到齐了,把事情说一下。”

我战战兢兢的走进办公室,看到陈科正坐在靠窗的位置,望着外面的风景。除了我们辩论队伍的四个人,门口还有两位身着安保制服的工作人员,其中一位年纪稍长者说到:

“昨晚活动结束后,这位AIETC的张教授找到我们,怀疑核心算法库被非法入侵,晚上11点,我们调取了最近一周的AI网警分析报告,发现在3天前的中午,的确有一个可疑访问记录。这个入侵者接触了核心算法区,并在预装NOSTAW-XV的情感算法终版中逗留了约1个小时,AI网警在这期间并没有发现可疑的IO记录,可以确定的说,算法库并未泄漏。

“我们随后对这条可疑访问记录进行了溯源分析,最终锁定了一个ID号末四位为3664的智能设备,而这个设备属于思维研究院,最近的使用记录是陈科。对不起,陈天才,我们确定是你。”

众人齐齐转过头去,看向坐在窗户旁云淡风轻的陈科。他依然淡定自若,站起身来,淡淡的说:“你们一早来,就说我访问了咱们机密实验室的算法库,我一直没有否认。事实上,我使用的用户权限,是AIETC内部人员透露给我的,所以你们说非法入侵,有点过了,我没那么大本事。

“一开始呢,我也只是对咱们的最新算法感兴趣——话说咱们哪一个研究人工智能的同学不想了解最先进的成果呢?刚才校警说我看这个算法看了1个多小时,其实并没有,我只看了10分钟,就发现了一些问题。这个问题,其实我考虑了很久。

“你们把人工智能的情感表现分解成一系列规则的集合,虽然中间做了很多的数学变换,让他们自我训练,自我适应,但是归根结底,你们希望构造一个基于知识体系的AI情感世界,但这样的世界不是人化的世界,它过于刻板,所以你们又加入了一些随机因子,让这种情感体现不那么精确。

“但是在辩论赛这个场合里,你们的算法失效了,一方面,我们制定了先抑后扬的战术,而最重要的原因呢,我猜想,机器人并没有把握好自己的怜悯之心,在我们主动示弱之后,你们所有的传感器和大脑都在放大这个因素,最后绑架了你们所有的思维方式。

“我用了10分钟找出了算法的破绽,然后又用了50多分钟的时间,对准备植入四辩机器人的算法做了微小的调整,让他能够以更加追求和平和秩序的心态来参加辩论。我确实违反了校规,恳请AIETC的老师们原谅。周老,我会收回我留校任教的深情,请您谅解。”

说罢,陈科向老校长和AIETC的几位年轻教授深深鞠了一躬,留下错愕的我们如鲠在喉。

陈科抬起身,走到老校长身旁,幽幽说道:“请问几位教授一个问题,是谁赋予了人工智能的权利,让他们能够自由了解和学习人类的情感体系?又是谁剥夺了人类的权利,让人工智能的内心世界成为隐私,不可被随意触碰?”

陈科离开了学校,他违纪的事情并没有持续发酵,所以我们确定赢得了比赛。

三个月后,实验室里突然收到了一封他手写的信。

“……十分感谢实验室的老师和兄弟姐妹们在这些年来对我的帮助和鼓励。我并不认为自己是一个天才,是大家的陪伴让我成长……关于辩论比赛,我不想多说什么,人工智能仍然大有可为,它必将改变这个世界的运行方式,而你们正在进行的研究工作,就是改变世界的神秘钥匙。透露一个小秘密吧,你们是不是一直认为咱们是靠我篡改了机器人算法而赢得的胜利?其实机器人最大的弱点,是在辩论算法底层程序中的一个设计:每个环节结束后,机器人得分都不能比人类得分多超过40分,然后最后结果一定是人类取得胜利。而这个后门是谁植入的呢?就是我们的周校长在15年前,刚刚成立思维研究院的时候埋进去的……好吧,哈哈,这只是我开的一个玩笑,大家不要当真。其实我是很感激周老的,他理解我所有的选择,我目前在一个更喜欢的岗位上实现理想,而且这个工作仍然需要敏锐的头脑和缜密的思维,……作为一名刚入行不久的新闻工作者,我现在感觉非常的轻松和开心,对了,给你们看一下我们刚刚采编的新闻稿,跟咱们的辩论赛有关系。一定要保密!”

我倒了倒信封,从里面划出了一张胶版照片,上面是一张完整的屏幕截图,在照片的正中央,印着几个标题大字,无比刺眼:

“全球智能大会宣布取消辩论环节,人类十五连胜光荣记录永载史册。”

-完-
关注科普中国官方微信
我要评论
开心小伙 2019-06-07 10:06
为你点赞!
rhapesody 回复 开心小伙 感谢房老师支持!
2019-06-07 22:33 回复
dudu880214 2019-06-04 17:55
加油加油
科幻作品
人工智能辩论实录
张汝成

学校:北京银行

学历:硕士研究生

专业:自动控制

社团:九三学社

职业:工程师

评委点评 评语汇总

在科技迅猛发展的今天,人类一方面在质疑“后人类”还是不是人类“,另一方面,对人工智能发展或喜大普奔,或忧心忡忡。我个人理解,《人工智能辩论实录》这篇小说的作者显然并不乐观:代表人类最高水平的辩手陈科是靠着人类的智慧——利用规则漏洞潜入学校机密的AIETC算法库,窃取算法并修改人工智能方四辩的程序,凭借着这样的”智谋“保全了人类的尊严,又一次取得辩论赛的胜利,并维持了15:0的不败战绩。作者是在歌咏人类的智慧以及不可战胜,最后的胜利一定属于人类吗?在我看来,这个结局多少有些不那么光明正大的味道。相信更多的读者会和我一样,会因此有更多的思考:人工智能向人类情感发展(赋予它情感)的边界在哪里?这种边界以及保障手段是否有可能被突破?人类究竟应该如何与人工智能共存?…… 应当说,作者本着IF……What的原则建构起来的故事能够做到逻辑自洽,前半部分的悬念在后半部分基本上得到了回应,但作品的文学性仍有较大的提升空间。作者必须考虑读者的期待:比如,对陈科 如“壮丽的烟火秀“的四辩辩词,后半部分如果在陈科那封信后再有一番再现,故事是不是会更好看?陈科这个角色是否会更完整和生动?

2019-06-14 16:53 匿名 ——

AI与人类的高下较量,是很热门的话题,因此谈出自己独到的见解是不容易的。在作者塑造的世界中,AI与人类开展了一场有关辩论的军备竞赛,到目前为止,还是人类略胜一筹:在情感表达上,我们更狡猾。 作者逻辑能够自洽,文字偏向于理性,而文学性较弱,建议增强文学表达的训练。作品视野偏于狭窄,仅仅关注了辩论者,而未关注观众的感情(观众对不同辩手总该有情感倾向吧?),因而氛围营造不好,文字倾向于说理性。在这个话题上有很多可以深挖的东西,希望作者可以更广泛地思考,为作品增加更多细节。继续加油吧!

2019-06-13 09:14 匿名 ——

在未来,AI的进步太快,将大幅度冲击人类社会行为。人类与AI的辩论,人类翻盘胜出,这个设定起点太高,需要作者有扎实的写作功底、辩论知识、科学幻想功底,但通篇平淡无奇,内容深度不够。 作者站在了人类这一方,让读者有了亲切感与自豪感。

2019-06-10 12:47 匿名 ——

整篇文章通过对话和说明来展开,缺少情节张力,较为枯燥。设想的人工智能情感问题,和科学研究的逻辑事实并不相符。

2019-06-10 11:19 匿名 ——

尽管很少找到机会亲身经历辩论会的氛围,但此故事自有其它吸引我的地方。 自上世纪中叶“人工智能”的概念提出以来,围绕“让机器像人一样思考”的研究和尝试从未停止过。从最开始的“赋予机器逻辑推理能力”,到当今主流的“知识和推理”思路,作者在故事中提出了另一个实现真正人工智能的观点:“知识、推理,和情感”。 以辩论赛过程推,足见为人工智能设立情感算法后产生的效果:更细致的判断、更准确地把握人心,人工智能得以依赖此在比赛中获得巨大优势。然而人为的情感编程终归聪明反被聪明误,情感算法中存在的漏洞,最终还是为另一方的胜利铺平了道路…… 这不由让人思考,当我们惊叹于机器自主学习下棋后能比有监督学习玩得更好,之于机器的情感,自主学习会不会亦能取得更好的效果?在机器的情感萌芽之后,除了让人工智能再进一层,它们是否应该有隐私,它们是否应该享受和人对等的权利?以辩论赛为出发点,这个故事稍微提供了一点远景。

2019-06-03 16:32 巨星海 ——

请用微信扫描下方二维码 ×
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

点赞拉票需在微信中进行!

请用微信扫描下方二维码

欢迎登录

记住我忘记密码戳这里

登 录

没有账号点此注册