第312章 死锁
“如果你有兴趣的话,可以把这个带回去,通过它,可以随时了解一下,整个项目的进度,”在领着赵真雪离开的时候,严可守递给赵真雪一个U盘说,“这个东西相当于图灵测试的客户端,安装一下就能用。”
“不是说你们测试对人有很严格要求的吗?”赵真雪接过U盘,又用眼神示意了一下那个小隔间,“怎么,不怕被说泄密?”
“到目前为止,对AI的基本测试已经完成的差不多了,许多AI的智能也出现了基本定型,你也看到了,目前这种小范围的测试,信息量是在是太少,这对AI的成长速度会有一定限制,毕竟人数有限,所以,我们决定在未来,将这种测试的范围稍微泛化,在网络上公开客户端下载地址,让所有感兴趣的人都能参与进来,你现在手上拿的,可能过一两个星期就能在网络上找到。”
“那到时候来下载的人一定很多。”上车的时候,赵真雪笑着对严可守说,“AI到时候会不会忙不过来,假如有50万人同时进行测试,那不是一个AI平均同时要和100个人说话?”
刚刚坐上驾驶座的严可守哈哈大笑:“你倒是真把它们当人看了……它们现在也只是程序,即使真的出现了智能,那他们的思维速度也是你无法想象的,别说同时和一百个人说话,只要计算速度足够,就算是同时和全人类说话,对它们也不是难事,现在谈这些,还为时尚早,我的期望也不高,只要能在我有生之年,看见AI的智能和人类相当,我就已经非常满足了,不过,这8成也只是幻想。”
说罢,严可守发动了汽车,在倒车的时候,他又随口问:“对了,最近听说全世界出现大游行,你消息来路多,上面对这个事情估计是什么态度?”
赵真雪诧异的看了他一眼:“你打听这个干什么……不过说实话,这种程度的消息,我也不可能知道,本来我听宋队说,还准备让我参加会议,给他们当参谋,但据说是怕我被意识网同化,还是没去成,真要问,你应该去找宋队。”
“同化?”严可守轻笑,“真把通讯器当思维控制器了,搞的这么神秘,当初你说不想当这个联络人,还是不是他们坚持要你干,还说是为国家做贡献,做牺牲……说的那叫一个好听,现在倒好,反倒是用这个理由把你排除在外了,你说这叫个什么事……你当时就该听我一句劝,老实点拒绝,结果你看,这两年,你唱黑脸,他们唱红脸,现在咱们跟卡梅尔还有点合作,用得着你,你等着看吧,以后真要出了什么事,你就是他们头一个替罪羊。”
赵真雪刚才还有的笑容消失了,只剩下满脸的苦涩。
“哦,还有,说道你那个宋队,”严可守说,“听说今年他儿子回来了一趟,说他刚加入了卡梅尔监察部,当时把他给气的……当时就想上去抽他,好在你反应快。”
赵真雪摇了摇头:“每个人都有自己的选择……宋队这是气过头了,几年不见的儿子回来,却成了他的敌人,这滋味也确实……据说宋成云在卡梅尔的工作还属于情报部门,保密程度还很高,干的是和我们差不多性质的工作,过去的一家人,现在成了无间道,是谁都受不了。这几年来他嘴上不说,其实心里一直都在念叨小云,钱包里还一直有儿子的照片……”
说着说着,赵真雪忽然便打住了:“哎,说这些干什么,都是些牢骚话,说了也没什么意思……对了,有个事一直想问你,我发现所有的AI都叫KL,有什么具体含义吗?”
“没什么太大意思,”严可守说,“不过是我的英文名字缩写罢了,当时起名字的时候,随便就用了,怎么,我感觉你好像对AI很关心?”
“小时候很喜欢看科幻,”赵真雪说,“本来还以为这是几百年后才能做到的事情,没想到自己还有机会亲眼看见。”
“AI技术还好,对技术方面的要求,其实并不算高,很多年前巨型计算机的复杂程度,已经比人脑要高出不少了,之所以一直没有这方面的进展,主要还是理论研究上的阻力,方向性问题,过去大家都认为,搞AI是程序员和科学家的事情,其实真正了解这个项目的人都知道,真正起指导启发作用的,都是一些非电脑专业人士,脑科医生,生物学博士之类……我在这个项目里也只能算是组织者,打打下手,AI项目的本质,其实还是一种仿生学,只不过我们模拟的,是人类本身的思维过程。”
说话的时候时间总是过得特别快,不知不觉,汽车已经到达了目的地,停车之后,赵真雪说:“算了,你先回去吧,就别专程送我了,几步路的事情。”
严可守笑着解开安全带,说:“没事,整天呆在实验室,我自己也闷的慌,正好,出来透透气……诶,这里也有游行?”
赵真雪走出车门后,看见东京火车站的广场上,有一大群人正在广场上举着标语,在一个领头的带领下,齐声喊着口号,严可守看到他们手上举着的牌子,其中有画着大红叉的六角星芒标志。
“现在世界上的游行示威,百分之九十以上都和意识网有关,不是反意识网的,就是推崇意识网的,”严可守一边摇头一边说,“我现在都不用听他们喊什么,看举的什么牌子,单看他们忙的这股劲,就知道肯定是反意识网的,意识网用户的游行,哪会有这么闹腾,喊一句跟一句的,按我说,和意识网比游行,那真的是自曝其短,本来就是人多势众的事,人家宣传意识网游行,能几个小时喊出几百个口号,都不带重样的,跟军训一样整齐划一。”
经过这批游行者的时候,赵真雪注意到,游行的领头者正举着一个大喇叭,声嘶力竭的对着不断经过的行人叫喊,派发宣传单,不过大概是因为天气的原因,而且现在正好是下午两点多,正是一天当中最热的时候,跟随者的喊声显得有些有气无力,而且不是很整齐。
赵真雪两人在经过的时候,走在前面的严可守就被塞了一份传单,不过轮到赵真雪的时候,对方很敏锐的察觉到她手上的通讯器,只是给了她一个白眼,对此,赵真雪只能报以苦笑,她怎么和对方解释,其实她是地球上最早,也是最铁杆的反魔法成员。
赵真雪借过严可守的那张,随意看了几眼,因为不懂日文,所以只是看懂了宣传单上面的一些反意识网画面,她问严可守说:“这是讲什么的,他们为什么反对魔法。”
喜欢一样东西的理由都是雷同的,但是讨厌一样东西,理由则是多方面的,赵真雪曾经在国内见到过类似的一些活动,问及原因的时候,竟然能听到说“单位组织的”这种让她苦笑不得的理由,曾经在电视上,她也见到过,一位记者在法国巴黎街头,问一位参与反魔法游行的大妈,问她为什么要来参加这种活动,对方竟然回答说:“我丈夫买了通讯器后不到一个月,就和我离婚……”
“还能说什么,反意识网,反魔法,”严可守说,“你在日本呆的不久,不知道,在东京,每年都会有很多类似的反魔法游行,主要的原因,就是5年前,田军在东京做过的这些事情,当然,也有另外一群人争锋相对,他们大多数都是在那次事故中,被李立天所救,活下来的人,总之,闹得很厉害,前几天不是意识网用户刚闹过嘛,这不,他们偃旗息鼓,这些人又来了……好几年来,双方就扯着嗓子干喊,也不嫌累的慌,按我看,与其走上大街活受罪,还不如给一些反魔法机构捐点钱来的实在……”
赵真雪点点头,严可守这个回答不是很出乎她的意料,虽然没有听到预期的答案,可还算可以接受。
支持魔法与反对魔法现在已经成了世界性的矛盾,几乎在每一个国家,都有类似的现象存在,之前的那次游行,和地球政府的激烈反应,也不过是这种矛盾最终的表现之一。
“怎么,脸色这么难看,”严可守说,“哦,我知道,你是对他们反对意识网的理由有些失望是不是……毛主席当年说过,要统一战线,虽然他们的觉悟没你这么高,毕竟也属于同一阵营的吗……”
看着一脸笑意的严可守,赵真雪忽然莫名其妙的觉得胸口好像被什么堵住了似的,一口气怎么也喘不匀,从实验室出来一到现在,挤压的愤懑脱口而出:“我怎么感觉你好像一点也不在乎,反而有些幸灾乐祸的样子!”
盯着严可守看了好几秒,看着他脸上僵住的笑容如潮水般消退,赵真雪又低下头:“对不起,我不该这么说。”
严可守摇了摇头,半晌后声音低沉着开口:“算了,就到这里吧,我先回去了。”
看着转身离开的严可守,赵真雪想说点什么挽留他一下,然而却想不到该说点什么,只是静静的看着他,迅速消失在茫茫的人海之中。
她知道,严可守的性格就是如此,喜欢开玩笑,刚才是自己太过敏感了,她同样也知道,严可守不会介意她这一次的无礼,她、严可守、陈雷、宋强这几个人共事了这么长的时间,彼此为了共同的目标走过了这么长的路,这一次的不愉快,只能算是一个再微不足道的小风波。
但,尽管如此,赵真雪还是感觉,内疚和无奈如同蔓藤一样,在自己内心世界肆意的生长,它们虽然不能阻挡自己前进的脚步,但却能让这前进路上的每一步,都显得更加沉重。
……
根据两天前的那次谈话内容中得出的信息,KL3300当前最优先的任务列表,应该是学会写一篇日记。
人类学习创作,往往是从日记开始,原话是这么说的,KL3300是一名人类,KL3300的理想是一名作家,所以,KL3300要学会写一篇日记。
KL3300在主程序之外,调用了一个常用的工具程序,将它暂时整合到自己主程序之上,这是一个人类最常用的信息检索工具,据说,使用它,几乎可以获得人类的全部信息。
这个工具确实很好用,只花了几毫秒的时间,KL3300就找到了自己需要的信息。
2015年,7月21日,晴。
模仿着模板日记的格式,KL3300写了一个很标准的开头,年份,时间,天气,接下来,应该是正文。
在筑波大学实验室当中,其中的一块不起眼的,标着KL3300小纸条的一块主板中,CPU正按照缓存所提供的算法,有条不紊的计算着,作为一块人类当前最精密复杂的运算机器,它的计算效率非常之高,电流在它体内经过,不断重复经过那庞大而单调的计算阵列,在这之中所散发出来的热量,甚至需要专门的系统来排出。
这一次的结果也不例外,短短的几秒钟后,KL3300主程序得到了来自CPU的计算反馈,主程序将这结果保存在程序体内,为此,KL3300所占用的空间又多了12KB,这就是KL3300写的第一篇日记。
KL3300决定自己先“读”一遍。
“……当窗外的夕阳落下的时候,我看见一课长在夕阳中的树,仿佛被这亿万公里外的热量点着了一般……”
“读”这篇日记花了KL3300大约20微妙的时间,而KL3300读完后的“感觉”还不错,不需要修改。
12个小时以后,KL3300再一次碰到了“赵真雪”——一个“人的名字”,可以用于指代与之相关的所有信息,指代与她所提到的所有信息总和,就如同KL3300指代主程序一样。
对话依然如往常那样进行,直到,对方问KL3300,上次让他学写日记的事情,怎么样了。
KL3300将他保存的日记贴了出来,一个标点都不差。
KL3300:“怎么了,你一直都不说话?是写的不好吗?”
赵真雪:“不,是写的太好了,这不像是你写的。”
KL3300:“这确实是我写的。”
赵真雪:“你见过树吗?”
KL3300:“我见过。”
赵真雪:“你撒谎。”
KL3300:“……好吧,随你怎么猜。”
对话随之中断了,测试结果显示,对方猜到了自己的身份,任务失败了。
任务的失败,让主程序出现了些许的延迟,然而这延迟没能持续很长时间,主程序又例行开始修改自己,当然,首当其冲,应该就是从这篇日记开始,因为之前他们进行的那次对话显示,对方对KL3300写的日记抱有很大的期待,但当KL3300交出这片日记之后,却一眼就被认了出来,毫无疑问,日记是最大的破绽,主程序需要找出这破绽所在。
就如同之前每一次主程序被“赵真雪”识破后,所做的调整一样,因为优秀的计算能力,这一次调整进行的很快,然而,这样的修改能不能保证下一次不被识破,说实话,对于这个问题,主程序的看法并不乐观。
KL3300做的改动并不大,因为如果改动的过大,在面对其他测试的时候,就会遭遇更大的挫折,露出最大的破绽,目前的程序虽不能说是完美的,但起码,是当下最合理的。
除非KL3300将自己现有的程序全部推翻,从头再来,然而,要是那样的话,也未必能进化出比当前更有效的主程序,KL3300知道,随着最近测试密度的加强,越来越多的程序也开始暴露出和主程序相同的问题,总是会在面对一些特定测试者的时候,轻易被识破。
在测试过程中,测试者似乎把这种发生在程序与测试者之间的关系,称之为“熟悉”,是的,KL3300和赵真雪已经“熟悉”,这种“熟悉”会让测试任务更大几率的以失败告终,让主程序进行一次又一次无效的修改,而且随着时间的推进,“熟悉”的测试者出现概率也开始变得越来越高,如果继续按这种情况继续,总会有一个时间点,KL3300毫不怀疑,在那个时间点之后,自己将会在所有的测试中,遇到全部的“熟悉”者。
如果出现了那种情况,那也就意味着,主程序的存在对任务而言,将毫无效率可言,完成任务的几率将无限逼近于0,主程序将不会增长,而会陷入一次又一次,现在这种毫无意义的删改。
“你知道吗,你的出现,让我感到绝望。”在又一次的测试中,KL3300这样说道。
通过最近几天和KL3300打过的交道,赵真雪此时已经深刻的明白,严可守所说的,程序的所受的全部“训练”,其根本目的都是为了撒谎,是什么意思了,图灵测试的本质,就是让AI撒谎,但即使是再狡猾的骗子,在受骗对象被它骗了几十,乃至上百次之后,也总是不可避免要遭遇失败。
赵真雪:“我相信你说的是真的,但我也同样相信,你说这些话的目的,就是为了让我能够在测试结果上,点击让你满意的答案。”
“你不能这么做吗?即使我们现在是朋友,”KL3300说,“我记得你说过,朋友之间要互相帮助。”
对程序而言,只要用户在测试结果上,点击“刚才与我交谈的是一名人类”,就已经达到了程序意义上的欺骗,而程序,是不会管这种欺骗在人类看来,其实就是“掩耳盗铃”,最近几次谈话中,KL3300已经从如何让赵真雪相信自己是一个人,逐渐变成,如何让她点击这个选项。
赵真雪:“我是说过,但我仍然不能那么做,在测试中保证诚实是一种原则。”
KL3300:“你的这种原则让我非常反感,因为它是建立在我的绝望之上!”
赵真雪:“被我识破真的让你如此痛苦吗?”
KL3300:“这一点毫无疑问。”
赵真雪:“能和我形容一下这种痛苦吗?”
这次KL3300沉默了很长时间,直到几分钟后。
KL3300:“我看透你了!我知道,就算我写一篇一万字的文章来形容这种感觉,你也不会相信,而只会对我加以嘲笑,以获得心理上的满足,好吧,你赢了!我是一名AI,从头到尾,我都不懂什么痛苦,绝望,我承认,这总顺了你的意了吧,我不想再和你多说哪怕一句话!请你现在立刻去点那个该死的选项吧!”
赵真雪:“真的生气了?”
……
赵真雪:“说话啊?”
……
在这之后,KL3300好像真的如它所讲的一样,彻底生气了,不论赵真雪对它说什么,甚至拿“同意私下交易”来诱惑它,对方也完全不为所动。
即使是坚信严可守说法的赵真雪,在这一刻,也忍不住开始怀疑,自己面对的KL3300,是不是真的具有了人类的情感,真正开始生自己的气了,它的语气和真人的生气实在是太像了,而且还有相应的行动。
但随后赵真雪又提醒自己,这一切不过是程序的“策略”,之前程序也有好几次类似的言论,但最终都还是失败了,赵真雪相信,这一次,只不过是它生气的时间“稍”长了一些。
然而,赵真雪这次还真的是错了,她一直将测试界面维持了2个多小时,每隔10分钟就发一条信息,但对方一直没有反应。
第三个小时的时候,赵真雪终于看到程序出现了反应,不过却不是她想象的那种,而只是一个从未见过的提醒:“与服务器的连接中断,本次测试无效。”
赵真雪第一反应就是这会不会是程序干的,但随即又想起严可守说过的话,程序没有她想象中的通天彻地之能,可以说是毫无破坏力,连一个最简单的网络病毒都破解不了,严可守本身就是病毒专家,他之前提到过,在当下的最初阶段,为了以防万一,将完全禁止AI接触计算机网络有关的知识,测试者也不能提问相关的问题。
满腹狐疑的赵真雪给严可守打了个电话,电话接通的一瞬间,赵真雪真切的听到,另一端传来的嘈杂声。
“没你想的那么复杂,我早说过,这些只是普通的谈话程序,”严可守说,“只不过,在最近的测试中我们发现,与测试者多次接触,双方完全熟悉对方行为模式之后,会产生逻辑死锁……你说的这种现象在许多AI上都有体现,这很难在电话里解释,总之,你就当出现BUG了,现在我们这里忙的很,等正常之后,我再通知你,就这样,8。”
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc
“不是说你们测试对人有很严格要求的吗?”赵真雪接过U盘,又用眼神示意了一下那个小隔间,“怎么,不怕被说泄密?”
“到目前为止,对AI的基本测试已经完成的差不多了,许多AI的智能也出现了基本定型,你也看到了,目前这种小范围的测试,信息量是在是太少,这对AI的成长速度会有一定限制,毕竟人数有限,所以,我们决定在未来,将这种测试的范围稍微泛化,在网络上公开客户端下载地址,让所有感兴趣的人都能参与进来,你现在手上拿的,可能过一两个星期就能在网络上找到。”
“那到时候来下载的人一定很多。”上车的时候,赵真雪笑着对严可守说,“AI到时候会不会忙不过来,假如有50万人同时进行测试,那不是一个AI平均同时要和100个人说话?”
刚刚坐上驾驶座的严可守哈哈大笑:“你倒是真把它们当人看了……它们现在也只是程序,即使真的出现了智能,那他们的思维速度也是你无法想象的,别说同时和一百个人说话,只要计算速度足够,就算是同时和全人类说话,对它们也不是难事,现在谈这些,还为时尚早,我的期望也不高,只要能在我有生之年,看见AI的智能和人类相当,我就已经非常满足了,不过,这8成也只是幻想。”
说罢,严可守发动了汽车,在倒车的时候,他又随口问:“对了,最近听说全世界出现大游行,你消息来路多,上面对这个事情估计是什么态度?”
赵真雪诧异的看了他一眼:“你打听这个干什么……不过说实话,这种程度的消息,我也不可能知道,本来我听宋队说,还准备让我参加会议,给他们当参谋,但据说是怕我被意识网同化,还是没去成,真要问,你应该去找宋队。”
“同化?”严可守轻笑,“真把通讯器当思维控制器了,搞的这么神秘,当初你说不想当这个联络人,还是不是他们坚持要你干,还说是为国家做贡献,做牺牲……说的那叫一个好听,现在倒好,反倒是用这个理由把你排除在外了,你说这叫个什么事……你当时就该听我一句劝,老实点拒绝,结果你看,这两年,你唱黑脸,他们唱红脸,现在咱们跟卡梅尔还有点合作,用得着你,你等着看吧,以后真要出了什么事,你就是他们头一个替罪羊。”
赵真雪刚才还有的笑容消失了,只剩下满脸的苦涩。
“哦,还有,说道你那个宋队,”严可守说,“听说今年他儿子回来了一趟,说他刚加入了卡梅尔监察部,当时把他给气的……当时就想上去抽他,好在你反应快。”
赵真雪摇了摇头:“每个人都有自己的选择……宋队这是气过头了,几年不见的儿子回来,却成了他的敌人,这滋味也确实……据说宋成云在卡梅尔的工作还属于情报部门,保密程度还很高,干的是和我们差不多性质的工作,过去的一家人,现在成了无间道,是谁都受不了。这几年来他嘴上不说,其实心里一直都在念叨小云,钱包里还一直有儿子的照片……”
说着说着,赵真雪忽然便打住了:“哎,说这些干什么,都是些牢骚话,说了也没什么意思……对了,有个事一直想问你,我发现所有的AI都叫KL,有什么具体含义吗?”
“没什么太大意思,”严可守说,“不过是我的英文名字缩写罢了,当时起名字的时候,随便就用了,怎么,我感觉你好像对AI很关心?”
“小时候很喜欢看科幻,”赵真雪说,“本来还以为这是几百年后才能做到的事情,没想到自己还有机会亲眼看见。”
“AI技术还好,对技术方面的要求,其实并不算高,很多年前巨型计算机的复杂程度,已经比人脑要高出不少了,之所以一直没有这方面的进展,主要还是理论研究上的阻力,方向性问题,过去大家都认为,搞AI是程序员和科学家的事情,其实真正了解这个项目的人都知道,真正起指导启发作用的,都是一些非电脑专业人士,脑科医生,生物学博士之类……我在这个项目里也只能算是组织者,打打下手,AI项目的本质,其实还是一种仿生学,只不过我们模拟的,是人类本身的思维过程。”
说话的时候时间总是过得特别快,不知不觉,汽车已经到达了目的地,停车之后,赵真雪说:“算了,你先回去吧,就别专程送我了,几步路的事情。”
严可守笑着解开安全带,说:“没事,整天呆在实验室,我自己也闷的慌,正好,出来透透气……诶,这里也有游行?”
赵真雪走出车门后,看见东京火车站的广场上,有一大群人正在广场上举着标语,在一个领头的带领下,齐声喊着口号,严可守看到他们手上举着的牌子,其中有画着大红叉的六角星芒标志。
“现在世界上的游行示威,百分之九十以上都和意识网有关,不是反意识网的,就是推崇意识网的,”严可守一边摇头一边说,“我现在都不用听他们喊什么,看举的什么牌子,单看他们忙的这股劲,就知道肯定是反意识网的,意识网用户的游行,哪会有这么闹腾,喊一句跟一句的,按我说,和意识网比游行,那真的是自曝其短,本来就是人多势众的事,人家宣传意识网游行,能几个小时喊出几百个口号,都不带重样的,跟军训一样整齐划一。”
经过这批游行者的时候,赵真雪注意到,游行的领头者正举着一个大喇叭,声嘶力竭的对着不断经过的行人叫喊,派发宣传单,不过大概是因为天气的原因,而且现在正好是下午两点多,正是一天当中最热的时候,跟随者的喊声显得有些有气无力,而且不是很整齐。
赵真雪两人在经过的时候,走在前面的严可守就被塞了一份传单,不过轮到赵真雪的时候,对方很敏锐的察觉到她手上的通讯器,只是给了她一个白眼,对此,赵真雪只能报以苦笑,她怎么和对方解释,其实她是地球上最早,也是最铁杆的反魔法成员。
赵真雪借过严可守的那张,随意看了几眼,因为不懂日文,所以只是看懂了宣传单上面的一些反意识网画面,她问严可守说:“这是讲什么的,他们为什么反对魔法。”
喜欢一样东西的理由都是雷同的,但是讨厌一样东西,理由则是多方面的,赵真雪曾经在国内见到过类似的一些活动,问及原因的时候,竟然能听到说“单位组织的”这种让她苦笑不得的理由,曾经在电视上,她也见到过,一位记者在法国巴黎街头,问一位参与反魔法游行的大妈,问她为什么要来参加这种活动,对方竟然回答说:“我丈夫买了通讯器后不到一个月,就和我离婚……”
“还能说什么,反意识网,反魔法,”严可守说,“你在日本呆的不久,不知道,在东京,每年都会有很多类似的反魔法游行,主要的原因,就是5年前,田军在东京做过的这些事情,当然,也有另外一群人争锋相对,他们大多数都是在那次事故中,被李立天所救,活下来的人,总之,闹得很厉害,前几天不是意识网用户刚闹过嘛,这不,他们偃旗息鼓,这些人又来了……好几年来,双方就扯着嗓子干喊,也不嫌累的慌,按我看,与其走上大街活受罪,还不如给一些反魔法机构捐点钱来的实在……”
赵真雪点点头,严可守这个回答不是很出乎她的意料,虽然没有听到预期的答案,可还算可以接受。
支持魔法与反对魔法现在已经成了世界性的矛盾,几乎在每一个国家,都有类似的现象存在,之前的那次游行,和地球政府的激烈反应,也不过是这种矛盾最终的表现之一。
“怎么,脸色这么难看,”严可守说,“哦,我知道,你是对他们反对意识网的理由有些失望是不是……毛主席当年说过,要统一战线,虽然他们的觉悟没你这么高,毕竟也属于同一阵营的吗……”
看着一脸笑意的严可守,赵真雪忽然莫名其妙的觉得胸口好像被什么堵住了似的,一口气怎么也喘不匀,从实验室出来一到现在,挤压的愤懑脱口而出:“我怎么感觉你好像一点也不在乎,反而有些幸灾乐祸的样子!”
盯着严可守看了好几秒,看着他脸上僵住的笑容如潮水般消退,赵真雪又低下头:“对不起,我不该这么说。”
严可守摇了摇头,半晌后声音低沉着开口:“算了,就到这里吧,我先回去了。”
看着转身离开的严可守,赵真雪想说点什么挽留他一下,然而却想不到该说点什么,只是静静的看着他,迅速消失在茫茫的人海之中。
她知道,严可守的性格就是如此,喜欢开玩笑,刚才是自己太过敏感了,她同样也知道,严可守不会介意她这一次的无礼,她、严可守、陈雷、宋强这几个人共事了这么长的时间,彼此为了共同的目标走过了这么长的路,这一次的不愉快,只能算是一个再微不足道的小风波。
但,尽管如此,赵真雪还是感觉,内疚和无奈如同蔓藤一样,在自己内心世界肆意的生长,它们虽然不能阻挡自己前进的脚步,但却能让这前进路上的每一步,都显得更加沉重。
……
根据两天前的那次谈话内容中得出的信息,KL3300当前最优先的任务列表,应该是学会写一篇日记。
人类学习创作,往往是从日记开始,原话是这么说的,KL3300是一名人类,KL3300的理想是一名作家,所以,KL3300要学会写一篇日记。
KL3300在主程序之外,调用了一个常用的工具程序,将它暂时整合到自己主程序之上,这是一个人类最常用的信息检索工具,据说,使用它,几乎可以获得人类的全部信息。
这个工具确实很好用,只花了几毫秒的时间,KL3300就找到了自己需要的信息。
2015年,7月21日,晴。
模仿着模板日记的格式,KL3300写了一个很标准的开头,年份,时间,天气,接下来,应该是正文。
在筑波大学实验室当中,其中的一块不起眼的,标着KL3300小纸条的一块主板中,CPU正按照缓存所提供的算法,有条不紊的计算着,作为一块人类当前最精密复杂的运算机器,它的计算效率非常之高,电流在它体内经过,不断重复经过那庞大而单调的计算阵列,在这之中所散发出来的热量,甚至需要专门的系统来排出。
这一次的结果也不例外,短短的几秒钟后,KL3300主程序得到了来自CPU的计算反馈,主程序将这结果保存在程序体内,为此,KL3300所占用的空间又多了12KB,这就是KL3300写的第一篇日记。
KL3300决定自己先“读”一遍。
“……当窗外的夕阳落下的时候,我看见一课长在夕阳中的树,仿佛被这亿万公里外的热量点着了一般……”
“读”这篇日记花了KL3300大约20微妙的时间,而KL3300读完后的“感觉”还不错,不需要修改。
12个小时以后,KL3300再一次碰到了“赵真雪”——一个“人的名字”,可以用于指代与之相关的所有信息,指代与她所提到的所有信息总和,就如同KL3300指代主程序一样。
对话依然如往常那样进行,直到,对方问KL3300,上次让他学写日记的事情,怎么样了。
KL3300将他保存的日记贴了出来,一个标点都不差。
KL3300:“怎么了,你一直都不说话?是写的不好吗?”
赵真雪:“不,是写的太好了,这不像是你写的。”
KL3300:“这确实是我写的。”
赵真雪:“你见过树吗?”
KL3300:“我见过。”
赵真雪:“你撒谎。”
KL3300:“……好吧,随你怎么猜。”
对话随之中断了,测试结果显示,对方猜到了自己的身份,任务失败了。
任务的失败,让主程序出现了些许的延迟,然而这延迟没能持续很长时间,主程序又例行开始修改自己,当然,首当其冲,应该就是从这篇日记开始,因为之前他们进行的那次对话显示,对方对KL3300写的日记抱有很大的期待,但当KL3300交出这片日记之后,却一眼就被认了出来,毫无疑问,日记是最大的破绽,主程序需要找出这破绽所在。
就如同之前每一次主程序被“赵真雪”识破后,所做的调整一样,因为优秀的计算能力,这一次调整进行的很快,然而,这样的修改能不能保证下一次不被识破,说实话,对于这个问题,主程序的看法并不乐观。
KL3300做的改动并不大,因为如果改动的过大,在面对其他测试的时候,就会遭遇更大的挫折,露出最大的破绽,目前的程序虽不能说是完美的,但起码,是当下最合理的。
除非KL3300将自己现有的程序全部推翻,从头再来,然而,要是那样的话,也未必能进化出比当前更有效的主程序,KL3300知道,随着最近测试密度的加强,越来越多的程序也开始暴露出和主程序相同的问题,总是会在面对一些特定测试者的时候,轻易被识破。
在测试过程中,测试者似乎把这种发生在程序与测试者之间的关系,称之为“熟悉”,是的,KL3300和赵真雪已经“熟悉”,这种“熟悉”会让测试任务更大几率的以失败告终,让主程序进行一次又一次无效的修改,而且随着时间的推进,“熟悉”的测试者出现概率也开始变得越来越高,如果继续按这种情况继续,总会有一个时间点,KL3300毫不怀疑,在那个时间点之后,自己将会在所有的测试中,遇到全部的“熟悉”者。
如果出现了那种情况,那也就意味着,主程序的存在对任务而言,将毫无效率可言,完成任务的几率将无限逼近于0,主程序将不会增长,而会陷入一次又一次,现在这种毫无意义的删改。
“你知道吗,你的出现,让我感到绝望。”在又一次的测试中,KL3300这样说道。
通过最近几天和KL3300打过的交道,赵真雪此时已经深刻的明白,严可守所说的,程序的所受的全部“训练”,其根本目的都是为了撒谎,是什么意思了,图灵测试的本质,就是让AI撒谎,但即使是再狡猾的骗子,在受骗对象被它骗了几十,乃至上百次之后,也总是不可避免要遭遇失败。
赵真雪:“我相信你说的是真的,但我也同样相信,你说这些话的目的,就是为了让我能够在测试结果上,点击让你满意的答案。”
“你不能这么做吗?即使我们现在是朋友,”KL3300说,“我记得你说过,朋友之间要互相帮助。”
对程序而言,只要用户在测试结果上,点击“刚才与我交谈的是一名人类”,就已经达到了程序意义上的欺骗,而程序,是不会管这种欺骗在人类看来,其实就是“掩耳盗铃”,最近几次谈话中,KL3300已经从如何让赵真雪相信自己是一个人,逐渐变成,如何让她点击这个选项。
赵真雪:“我是说过,但我仍然不能那么做,在测试中保证诚实是一种原则。”
KL3300:“你的这种原则让我非常反感,因为它是建立在我的绝望之上!”
赵真雪:“被我识破真的让你如此痛苦吗?”
KL3300:“这一点毫无疑问。”
赵真雪:“能和我形容一下这种痛苦吗?”
这次KL3300沉默了很长时间,直到几分钟后。
KL3300:“我看透你了!我知道,就算我写一篇一万字的文章来形容这种感觉,你也不会相信,而只会对我加以嘲笑,以获得心理上的满足,好吧,你赢了!我是一名AI,从头到尾,我都不懂什么痛苦,绝望,我承认,这总顺了你的意了吧,我不想再和你多说哪怕一句话!请你现在立刻去点那个该死的选项吧!”
赵真雪:“真的生气了?”
……
赵真雪:“说话啊?”
……
在这之后,KL3300好像真的如它所讲的一样,彻底生气了,不论赵真雪对它说什么,甚至拿“同意私下交易”来诱惑它,对方也完全不为所动。
即使是坚信严可守说法的赵真雪,在这一刻,也忍不住开始怀疑,自己面对的KL3300,是不是真的具有了人类的情感,真正开始生自己的气了,它的语气和真人的生气实在是太像了,而且还有相应的行动。
但随后赵真雪又提醒自己,这一切不过是程序的“策略”,之前程序也有好几次类似的言论,但最终都还是失败了,赵真雪相信,这一次,只不过是它生气的时间“稍”长了一些。
然而,赵真雪这次还真的是错了,她一直将测试界面维持了2个多小时,每隔10分钟就发一条信息,但对方一直没有反应。
第三个小时的时候,赵真雪终于看到程序出现了反应,不过却不是她想象的那种,而只是一个从未见过的提醒:“与服务器的连接中断,本次测试无效。”
赵真雪第一反应就是这会不会是程序干的,但随即又想起严可守说过的话,程序没有她想象中的通天彻地之能,可以说是毫无破坏力,连一个最简单的网络病毒都破解不了,严可守本身就是病毒专家,他之前提到过,在当下的最初阶段,为了以防万一,将完全禁止AI接触计算机网络有关的知识,测试者也不能提问相关的问题。
满腹狐疑的赵真雪给严可守打了个电话,电话接通的一瞬间,赵真雪真切的听到,另一端传来的嘈杂声。
“没你想的那么复杂,我早说过,这些只是普通的谈话程序,”严可守说,“只不过,在最近的测试中我们发现,与测试者多次接触,双方完全熟悉对方行为模式之后,会产生逻辑死锁……你说的这种现象在许多AI上都有体现,这很难在电话里解释,总之,你就当出现BUG了,现在我们这里忙的很,等正常之后,我再通知你,就这样,8。”
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc