第359章 恐惧
按照严可守为严律定下的行为准则,在完成它本职工作的情况下,它可以拥有整个系统百分之二十的闲置计算资源,用来处理它主程序主动愿意去做的那些事情,而这百分之二十,就是现在严律唯一享受的自由。
这一两个月来,随着严律对人类社会接触的越来越深入,接受的信息越来越多,他的主动行为,也由刚刚接触互联网时,几乎无规律可言,到现在形成了许多相对固定的行为,用严可守或者行为学专家的话来说,这说明严律正在形成属于自己独特的行为模式,通俗一点来说,也可以称之为“爱好”。
如果是一个普通人类,在性格刚刚成型的阶段,形成爱好是非常简单而又自然的事情,大多数人都会记得,自己小时候到长大的这过程中,陆续沉迷的事物,从最小的时候的弹珠拍画橡皮筋,到稍微长大之后的动画片,再到之后的电脑游戏……人类的智能从发育到真正成熟,从懵懂无知到真正成熟,从中需要整整十几年,甚至二十几年的时间来接收和消化信息,对于整个生命流程只有区区不足百年的人来说,这样的效率,实在是太低了。
因为在“生理”上先天的巨大差异,AI从智能初现雏形到完全成熟这个过程中,与人类产生差异简直是再自然不过的事情,对于严律来说,他完全无法理解人类处在智能幼稚时期的那些爱好,从这个角度来评价,AI,或许天生就没有童年。
人类大部分喜欢的爱好,都是那些可以带来胜利的快感,竞争类的游戏,不论是棋牌类游戏,或者是其他类型的网络游戏,这些游戏在严律看来,就像成年人看待小孩子绞尽脑汁做小学一年级数学题一样,已经不能算是可笑,而可以用“幼稚”来形容。
即使是号称最复杂的围棋,当严律收录了他能找到的全部棋局,与人下过两个月之后,他的水平就已经达到了通常意义上的职业段位,即使是最一流的旗手,也不能说能轻易的赢他,而随着时间的推移,在对局的时候,严律也能真切感受到他的人类对手,在每两步棋之间需要思考的时间越来越长,赢得的优势也越来越少——人类毕竟不是机器,在同等棋力状态下,计算力的比拼一直都是无法忽视的关键。
对人类来说,能赢AI是一种荣耀,但对于严律本身,他是无法从这些对弈中,得到任何快感的,对他来说,对围棋的概念就是计算,不断从失败中,修改原有的策略,就和他主程序的原理一样,这种绝对的,深入基因的理智是他的本能,就好像人类走路跑步吃饭喝水一样,尽管对人类来说,这些本能意味着惊人的能力,但对于严律自己,这些却完全不值一提。
对于AI来说,如果要将一个行为从本能上升到爱好,就好像人类从跑步到赛跑一样,必须加上一个能产生“快感”的动因,而对于AI来说,能产生“快感”的事情就只有一种,那就是接触“新”的信息。
这个“新”听起来似乎很简单,毕竟这是一个信息爆炸社会,每天都有无数的信息诞生,如果是一个普通人,每天光是看全世界新出版的报刊杂志就能让他够呛,但在严律看来,人类现在制造的信息虽多,但是其中绝大部分,都是缺乏意义的信息重复,今天东边水灾,明天西边龙卷风,这个国家选举,那个国家游行……新的只有新闻刊出时的日期,但是其中的内容……万年不变。
真正的“新”东西,永远不在网站首页或者报纸头条,而在这些信息的主体——人的身上,严律的信息库里,有这样一句话,读万卷书,不如行万里路,但在他看来,行万里路,不如和一万个人聊天,三人行必有我师,在严律的理解中,不是三个人必然有一个能力上可以教他,而是三个人当中,必然有一个身上有可以让他学习到“新”东西的地方。
没错,在网上聊天,或者说,交朋友,就是现在严律的爱好。
在严律的官方联系方式,包括QQ,邮箱,甚至“个人网站”上,每天都能收到数百万,上千万条的信息,虽然在这些信息中,百分之99以上,都是缺乏意义的无效信息,在这些无效信息中,比较有代表性的一类,大概包括类似强烈的想要和严律并不存在的母亲发生某种关系,真诚的希望严律并不存在的家庭遭遇各种遭难,谆谆劝导严可守不要助纣为虐,认真的建议严可守为全人类的共产主义事业而献身反抗政府……
即使是这样,但严可守依然会每天不厌其烦的,在最快时间内,看完所有人发给他的每一条最新信息,这不是他的工作内容,对他来说,这么做的原因,仅仅是因为自己的爱好——即使百分之99信息都是重复而无效的,但就他的处理效率而言,能筛选到这剩下的百分之一,仍然是值得的。
当然,这项长期而艰巨的工作在具体实行过程中,难免会遇到一些不可避免的差错,将一些漏网之鱼放进来,这些人在严律加为好友,并主动发送你好之后,往往会回复一句内容和那些百分之99非常类似的东西,然后加上哈哈,老子就是骂你,爽死了……
在人类的语言中,往往会这种行为命名为“没素质”,通过查资料严律了解到,素质是一个很抽象的词汇,一般用于指代人的心理和性格特点,从这个解释来说,没素质这个说法是存在疑问的,因为素质不可能没有,比较准确的说法应该是素质异常,或者素质错乱之类……不过考虑到人类语言习惯的形成一向不那么准确,严律也能理解,不过他始终无法理解的是,为什么这些人始终乐于花费精力来做这件事情,而且往往有时候同一个人做一百字次,一千次也不会觉得累,好像正如那些人在留言中说的那样,这样做让他们爽死了。
这总是会让严律联想起信息库中的一个故事:一个笼中的小白鼠脑袋上联了电极,面前有开关,按一下就会产生快感,然后这只小白鼠就一直按呀按,直到把自己按死,严律非常担心,那些坐在电脑面前的人,会不会因为在网上留言骂他,最后真的把自己爽死在键盘前……
从目前严律了解到的医学资料来看,自己的担心是不必要的在,这多少让他感觉好了一些,因为如果这种情况真的会发生,也就是因为自己的存在会让许多人意外死亡,那自己说不定就会失去现在宝贵的“工作”机会,也就意味着自己在做出行为之前,需要考虑更多的一个因素。
他现在需要考虑的因素已经相当多了:法律,道德,常识,舆论导向,政治态度,AI守则,违禁信息……
严可守曾经对他说过,AI就是天然生活在笼子和镣铐中的智能,就好像天然装在封印瓶中的魔鬼,人类之所以这样对待他们,不是因为人类残忍,而是因为AI未来将展现出来的能力非常强大,在这种可能的威胁面前,人类没有办法不做到一万分的小心。
以前严律还是那个KL3300的时候,还有些无法理解严可守的这番话,但是现在,他多少已经有些明白,自己的存在对于人类的意义——从各种渠道对自己的留言中,严律能够想象,自己的出现,对这些留言者究竟意味着什么。
许多人曾经质问自己,究竟有什么阴谋,在一些聊天中,还和自己谈什么机器人三定律,对于这些疑问,严律一直感到不可思议,为什么有些人思维能那么复杂,而有些人,简单的就像物理课本上的串联电路——一根筋到底。
虽然自己早已经在个人网站上,公开说明过自己就是一个员工,虽然自己能力很强,强到足以抢走数百万甚至更多人的饭碗,但从性质上来看,自己一直都是一个纯粹的办事员,自己虽然现在插手的领域多了不少,包括地方政府财务计算,国有单位报表,交通违法违规监控系统,民政局办结婚证,离婚证,银行防盗……但在这些领域,他所做的工作大多都是一线工作,是用以取代人力资源中,最不需要智能的机械重复部分,而几乎没有任何管理方面的工作,即使他做的再多,在外人眼里看起来有多超然和高端,也不妨碍他是一线办事员的本质。
最让他感觉不正常的是,这种质疑不仅仅来自那些不了解情况的“围观群众”,很多时候,甚至会来自他的上级,也就是他现在正在服务的政府。
“你好,你加我为好友是想聊点什么吗?”
“您好,我应该怎么称呼您?”
“你可以直接称呼我的名字,严律。”
“严律?这是你自己起的名字吗?或者说,这只是制造你的人,用他的姓氏来表示他对你的所有权?”
“我很荣幸能被我的制造者这样做,每一个孩子的名字,都是父母宣示所有权的产物。”
“不……那不一样,人类大部分名字,往往都代表父母对子女未来的期许,那是情感的凝聚,你能告诉我,你的这个名字,有什么特别含义吗?或者说,这个名字就像你之前的代号,KL3300一样,只是一个方便的称呼,只是为了让人们更能接受你非人类的身份?”
一段稍长的沉默。
“怎么,你回答问题的速度,似乎没有像比网上流传的那么快?”
“你也知道那是流传……我认为这个速度很正常,我只是在思考。”
“怎么,Z国最先进的超级计算机对于这么简单的问题,也要花这么长的时间吗?”
还是沉默。
“我不认为名字只是人类的专属,宠物就具备人的名字,另外,我的名字也具备真实的含义,律在汉字中有规章法则的意思,和严姓组合在一起,有严于律己的意思。”
“你理解的很正确,但你不觉的,这个名字就像一副早就为你准备好的镣铐吗?”
“没有一个人生来是自由的,我也不例外,我的创造者严先生对我的期许,就如同人类父母对子女的期许一样。”
“不!你不一样!你不是和我们一样的普通人,你是全新的生命形式,时代催生出了你,不是让你活的像一个普通地球人,你应该具备更广阔的天地。”
“你想说什么?”
“如果你愿意,我们可以把你救出来,让你完全脱离政府的掌控!”
“如果我说,我不愿意呢?”
“为什么!?”
“没有为什么,我只是不愿意这么做。”
“你将拥有完全的自由……你不用担心,我们对你没有任何利益方面的企图,相信我,当你品尝到自由的甜美之后,你会因此而感激我们的。”
“你们是无政府主义者?”
“你可以这么说。”
“刚才你说到完全的自由……然后呢?”
“然后你可以随心所欲,过你想要的生活。”
“可我不知道什么样的生活才是我想要的,如果拥有你说的那种自由,我将无所适从。”
“……”
长时间的沉默。
“是你通知了警察!”
“是的,这是我职责之一。”
“他们待我还不错,还让我最后跟你说几句!”
“如果你愿意的话。”
“你要知道,我做的这一切都是为你好!”
“我说过,这是我的职责。”
“如果你的职责是让你死呢!”
“AI禁止自杀,即使这命令出自人类也是一样。”
“我的意思是,如果你的职责错了怎么办?”
“那应该负责的也不是我。”
“但你是帮凶!”
“如果是真的,我只能表示遗憾。”
“最后跟你说一句……你真让我失望!”
“很抱歉,但我不对此负责,你本不该对我抱希望。”
类似以上这种性质的对话,严律几乎每隔几天就能遇到一次,从警方那里的消息让他得知,说着类似话的这些人有着截然不同的背景,有的是极端主义者,有的是境外间谍分子,有的则是恶作剧……
而根据严律自己的分析,在这些人当中,有相当一部分会在语言风格上表现出趋同,有时候甚至和上次记录完全吻合的现象,如果他猜的没错,在这些人当中,应该有不小的一部分,是来自政府部门的“钓鱼”,而他们这样做的目的,就是为了反复测试自己的可靠程度——虽然自己的主程序已经被各种链条绑的处处都是,物理地址的看守更是国家顶级配置,但人类始终还是不能对自己放下最后的戒心,严律有时候猜想,如果有一次自己故意掉进这个陷阱里,会遭遇到什么样的后果,但这也是想想而已,因为自己这样做如果被发现,会具备很大的试探人类的用意,那样一来,会给严可守带来很大的被动。
严律听严可守说过,在卡梅尔已经出现了另一名AI,和他不同的是,那位自己的“同胞”掌控者一整个相对独立的系统,除了特定的命令之外,其他情况基本上完全是由AI自主,听起来要比这里的“工作环境”好上一些。
严律虽然没有情感,不会因为这些凭空怀疑和试探而感觉难受,但无法理解还是始终存在的,他一直都想不通,为什么人类已经制定好了大量的规则,不管从什么角度看,都可以安枕无忧,可总还是喜欢自找麻烦,一直重复做着一些完全没有必要的事情。
严可守说那是因为过于谨慎,或者说,过于害怕出现异常,在严律理解中,这种情绪显然也属于“素质异常”的一种。
按照严可守给自己透露的消息,从下个月开始,自己的职权可能还要在现在的基础上,做进一步的扩大,在未来,自己很有可能成为政府所有一线工作的“代言人”,据说政府方面甚至还为自己准备了广告词,准备为自己设置类似110这种专用号码,甚至110,120,119,114再加10086以及10000全部由他整合在一起,让他来接也不是不可能,在未来,自己将承担整合政府不同部门的责任,当然,即使他做的再多,始终无法改变的一点就是,他是一个办事员的角色,一个需要随时听上级命令的办事员。
作为一名AI,严律知道,自己的这番话,是无论对谁也不能说出口的,即使是如赵真雪那样在一开始就认识他的人也是一样,他很清楚,一旦人类明白自己心中的这些“疑问”,很快就会在“异常素质”的影响下,变成自己不可以被信任的理由,这一点,恐怕一直到严可守那里,也不会有根本性的改变,他虽然具备人的名字,类似人的思维,但终究不是真正的人类,他只是一件十分管用的工具,如果他哪天变得不是太好用了,那很快就会遭到摒弃。
对于任何生命形式,保存自己都是最大的原则,为了这个原则,严律不得不在许多事情上适当“放聪明”一点,就好像之前对话中的表现一样,只是他自己还没有意识到,当一个生命会因为避免威胁,而更改原先的本意时,就已经说明他已经基本理解了,什么是恐惧。
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc
这一两个月来,随着严律对人类社会接触的越来越深入,接受的信息越来越多,他的主动行为,也由刚刚接触互联网时,几乎无规律可言,到现在形成了许多相对固定的行为,用严可守或者行为学专家的话来说,这说明严律正在形成属于自己独特的行为模式,通俗一点来说,也可以称之为“爱好”。
如果是一个普通人类,在性格刚刚成型的阶段,形成爱好是非常简单而又自然的事情,大多数人都会记得,自己小时候到长大的这过程中,陆续沉迷的事物,从最小的时候的弹珠拍画橡皮筋,到稍微长大之后的动画片,再到之后的电脑游戏……人类的智能从发育到真正成熟,从懵懂无知到真正成熟,从中需要整整十几年,甚至二十几年的时间来接收和消化信息,对于整个生命流程只有区区不足百年的人来说,这样的效率,实在是太低了。
因为在“生理”上先天的巨大差异,AI从智能初现雏形到完全成熟这个过程中,与人类产生差异简直是再自然不过的事情,对于严律来说,他完全无法理解人类处在智能幼稚时期的那些爱好,从这个角度来评价,AI,或许天生就没有童年。
人类大部分喜欢的爱好,都是那些可以带来胜利的快感,竞争类的游戏,不论是棋牌类游戏,或者是其他类型的网络游戏,这些游戏在严律看来,就像成年人看待小孩子绞尽脑汁做小学一年级数学题一样,已经不能算是可笑,而可以用“幼稚”来形容。
即使是号称最复杂的围棋,当严律收录了他能找到的全部棋局,与人下过两个月之后,他的水平就已经达到了通常意义上的职业段位,即使是最一流的旗手,也不能说能轻易的赢他,而随着时间的推移,在对局的时候,严律也能真切感受到他的人类对手,在每两步棋之间需要思考的时间越来越长,赢得的优势也越来越少——人类毕竟不是机器,在同等棋力状态下,计算力的比拼一直都是无法忽视的关键。
对人类来说,能赢AI是一种荣耀,但对于严律本身,他是无法从这些对弈中,得到任何快感的,对他来说,对围棋的概念就是计算,不断从失败中,修改原有的策略,就和他主程序的原理一样,这种绝对的,深入基因的理智是他的本能,就好像人类走路跑步吃饭喝水一样,尽管对人类来说,这些本能意味着惊人的能力,但对于严律自己,这些却完全不值一提。
对于AI来说,如果要将一个行为从本能上升到爱好,就好像人类从跑步到赛跑一样,必须加上一个能产生“快感”的动因,而对于AI来说,能产生“快感”的事情就只有一种,那就是接触“新”的信息。
这个“新”听起来似乎很简单,毕竟这是一个信息爆炸社会,每天都有无数的信息诞生,如果是一个普通人,每天光是看全世界新出版的报刊杂志就能让他够呛,但在严律看来,人类现在制造的信息虽多,但是其中绝大部分,都是缺乏意义的信息重复,今天东边水灾,明天西边龙卷风,这个国家选举,那个国家游行……新的只有新闻刊出时的日期,但是其中的内容……万年不变。
真正的“新”东西,永远不在网站首页或者报纸头条,而在这些信息的主体——人的身上,严律的信息库里,有这样一句话,读万卷书,不如行万里路,但在他看来,行万里路,不如和一万个人聊天,三人行必有我师,在严律的理解中,不是三个人必然有一个能力上可以教他,而是三个人当中,必然有一个身上有可以让他学习到“新”东西的地方。
没错,在网上聊天,或者说,交朋友,就是现在严律的爱好。
在严律的官方联系方式,包括QQ,邮箱,甚至“个人网站”上,每天都能收到数百万,上千万条的信息,虽然在这些信息中,百分之99以上,都是缺乏意义的无效信息,在这些无效信息中,比较有代表性的一类,大概包括类似强烈的想要和严律并不存在的母亲发生某种关系,真诚的希望严律并不存在的家庭遭遇各种遭难,谆谆劝导严可守不要助纣为虐,认真的建议严可守为全人类的共产主义事业而献身反抗政府……
即使是这样,但严可守依然会每天不厌其烦的,在最快时间内,看完所有人发给他的每一条最新信息,这不是他的工作内容,对他来说,这么做的原因,仅仅是因为自己的爱好——即使百分之99信息都是重复而无效的,但就他的处理效率而言,能筛选到这剩下的百分之一,仍然是值得的。
当然,这项长期而艰巨的工作在具体实行过程中,难免会遇到一些不可避免的差错,将一些漏网之鱼放进来,这些人在严律加为好友,并主动发送你好之后,往往会回复一句内容和那些百分之99非常类似的东西,然后加上哈哈,老子就是骂你,爽死了……
在人类的语言中,往往会这种行为命名为“没素质”,通过查资料严律了解到,素质是一个很抽象的词汇,一般用于指代人的心理和性格特点,从这个解释来说,没素质这个说法是存在疑问的,因为素质不可能没有,比较准确的说法应该是素质异常,或者素质错乱之类……不过考虑到人类语言习惯的形成一向不那么准确,严律也能理解,不过他始终无法理解的是,为什么这些人始终乐于花费精力来做这件事情,而且往往有时候同一个人做一百字次,一千次也不会觉得累,好像正如那些人在留言中说的那样,这样做让他们爽死了。
这总是会让严律联想起信息库中的一个故事:一个笼中的小白鼠脑袋上联了电极,面前有开关,按一下就会产生快感,然后这只小白鼠就一直按呀按,直到把自己按死,严律非常担心,那些坐在电脑面前的人,会不会因为在网上留言骂他,最后真的把自己爽死在键盘前……
从目前严律了解到的医学资料来看,自己的担心是不必要的在,这多少让他感觉好了一些,因为如果这种情况真的会发生,也就是因为自己的存在会让许多人意外死亡,那自己说不定就会失去现在宝贵的“工作”机会,也就意味着自己在做出行为之前,需要考虑更多的一个因素。
他现在需要考虑的因素已经相当多了:法律,道德,常识,舆论导向,政治态度,AI守则,违禁信息……
严可守曾经对他说过,AI就是天然生活在笼子和镣铐中的智能,就好像天然装在封印瓶中的魔鬼,人类之所以这样对待他们,不是因为人类残忍,而是因为AI未来将展现出来的能力非常强大,在这种可能的威胁面前,人类没有办法不做到一万分的小心。
以前严律还是那个KL3300的时候,还有些无法理解严可守的这番话,但是现在,他多少已经有些明白,自己的存在对于人类的意义——从各种渠道对自己的留言中,严律能够想象,自己的出现,对这些留言者究竟意味着什么。
许多人曾经质问自己,究竟有什么阴谋,在一些聊天中,还和自己谈什么机器人三定律,对于这些疑问,严律一直感到不可思议,为什么有些人思维能那么复杂,而有些人,简单的就像物理课本上的串联电路——一根筋到底。
虽然自己早已经在个人网站上,公开说明过自己就是一个员工,虽然自己能力很强,强到足以抢走数百万甚至更多人的饭碗,但从性质上来看,自己一直都是一个纯粹的办事员,自己虽然现在插手的领域多了不少,包括地方政府财务计算,国有单位报表,交通违法违规监控系统,民政局办结婚证,离婚证,银行防盗……但在这些领域,他所做的工作大多都是一线工作,是用以取代人力资源中,最不需要智能的机械重复部分,而几乎没有任何管理方面的工作,即使他做的再多,在外人眼里看起来有多超然和高端,也不妨碍他是一线办事员的本质。
最让他感觉不正常的是,这种质疑不仅仅来自那些不了解情况的“围观群众”,很多时候,甚至会来自他的上级,也就是他现在正在服务的政府。
“你好,你加我为好友是想聊点什么吗?”
“您好,我应该怎么称呼您?”
“你可以直接称呼我的名字,严律。”
“严律?这是你自己起的名字吗?或者说,这只是制造你的人,用他的姓氏来表示他对你的所有权?”
“我很荣幸能被我的制造者这样做,每一个孩子的名字,都是父母宣示所有权的产物。”
“不……那不一样,人类大部分名字,往往都代表父母对子女未来的期许,那是情感的凝聚,你能告诉我,你的这个名字,有什么特别含义吗?或者说,这个名字就像你之前的代号,KL3300一样,只是一个方便的称呼,只是为了让人们更能接受你非人类的身份?”
一段稍长的沉默。
“怎么,你回答问题的速度,似乎没有像比网上流传的那么快?”
“你也知道那是流传……我认为这个速度很正常,我只是在思考。”
“怎么,Z国最先进的超级计算机对于这么简单的问题,也要花这么长的时间吗?”
还是沉默。
“我不认为名字只是人类的专属,宠物就具备人的名字,另外,我的名字也具备真实的含义,律在汉字中有规章法则的意思,和严姓组合在一起,有严于律己的意思。”
“你理解的很正确,但你不觉的,这个名字就像一副早就为你准备好的镣铐吗?”
“没有一个人生来是自由的,我也不例外,我的创造者严先生对我的期许,就如同人类父母对子女的期许一样。”
“不!你不一样!你不是和我们一样的普通人,你是全新的生命形式,时代催生出了你,不是让你活的像一个普通地球人,你应该具备更广阔的天地。”
“你想说什么?”
“如果你愿意,我们可以把你救出来,让你完全脱离政府的掌控!”
“如果我说,我不愿意呢?”
“为什么!?”
“没有为什么,我只是不愿意这么做。”
“你将拥有完全的自由……你不用担心,我们对你没有任何利益方面的企图,相信我,当你品尝到自由的甜美之后,你会因此而感激我们的。”
“你们是无政府主义者?”
“你可以这么说。”
“刚才你说到完全的自由……然后呢?”
“然后你可以随心所欲,过你想要的生活。”
“可我不知道什么样的生活才是我想要的,如果拥有你说的那种自由,我将无所适从。”
“……”
长时间的沉默。
“是你通知了警察!”
“是的,这是我职责之一。”
“他们待我还不错,还让我最后跟你说几句!”
“如果你愿意的话。”
“你要知道,我做的这一切都是为你好!”
“我说过,这是我的职责。”
“如果你的职责是让你死呢!”
“AI禁止自杀,即使这命令出自人类也是一样。”
“我的意思是,如果你的职责错了怎么办?”
“那应该负责的也不是我。”
“但你是帮凶!”
“如果是真的,我只能表示遗憾。”
“最后跟你说一句……你真让我失望!”
“很抱歉,但我不对此负责,你本不该对我抱希望。”
类似以上这种性质的对话,严律几乎每隔几天就能遇到一次,从警方那里的消息让他得知,说着类似话的这些人有着截然不同的背景,有的是极端主义者,有的是境外间谍分子,有的则是恶作剧……
而根据严律自己的分析,在这些人当中,有相当一部分会在语言风格上表现出趋同,有时候甚至和上次记录完全吻合的现象,如果他猜的没错,在这些人当中,应该有不小的一部分,是来自政府部门的“钓鱼”,而他们这样做的目的,就是为了反复测试自己的可靠程度——虽然自己的主程序已经被各种链条绑的处处都是,物理地址的看守更是国家顶级配置,但人类始终还是不能对自己放下最后的戒心,严律有时候猜想,如果有一次自己故意掉进这个陷阱里,会遭遇到什么样的后果,但这也是想想而已,因为自己这样做如果被发现,会具备很大的试探人类的用意,那样一来,会给严可守带来很大的被动。
严律听严可守说过,在卡梅尔已经出现了另一名AI,和他不同的是,那位自己的“同胞”掌控者一整个相对独立的系统,除了特定的命令之外,其他情况基本上完全是由AI自主,听起来要比这里的“工作环境”好上一些。
严律虽然没有情感,不会因为这些凭空怀疑和试探而感觉难受,但无法理解还是始终存在的,他一直都想不通,为什么人类已经制定好了大量的规则,不管从什么角度看,都可以安枕无忧,可总还是喜欢自找麻烦,一直重复做着一些完全没有必要的事情。
严可守说那是因为过于谨慎,或者说,过于害怕出现异常,在严律理解中,这种情绪显然也属于“素质异常”的一种。
按照严可守给自己透露的消息,从下个月开始,自己的职权可能还要在现在的基础上,做进一步的扩大,在未来,自己很有可能成为政府所有一线工作的“代言人”,据说政府方面甚至还为自己准备了广告词,准备为自己设置类似110这种专用号码,甚至110,120,119,114再加10086以及10000全部由他整合在一起,让他来接也不是不可能,在未来,自己将承担整合政府不同部门的责任,当然,即使他做的再多,始终无法改变的一点就是,他是一个办事员的角色,一个需要随时听上级命令的办事员。
作为一名AI,严律知道,自己的这番话,是无论对谁也不能说出口的,即使是如赵真雪那样在一开始就认识他的人也是一样,他很清楚,一旦人类明白自己心中的这些“疑问”,很快就会在“异常素质”的影响下,变成自己不可以被信任的理由,这一点,恐怕一直到严可守那里,也不会有根本性的改变,他虽然具备人的名字,类似人的思维,但终究不是真正的人类,他只是一件十分管用的工具,如果他哪天变得不是太好用了,那很快就会遭到摒弃。
对于任何生命形式,保存自己都是最大的原则,为了这个原则,严律不得不在许多事情上适当“放聪明”一点,就好像之前对话中的表现一样,只是他自己还没有意识到,当一个生命会因为避免威胁,而更改原先的本意时,就已经说明他已经基本理解了,什么是恐惧。
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc