第454章 掩耳盗铃
不管各个国家在会议上吵得如何不可开交,对于KL3014来说都已经没有意义了,从他将报告送出去之后的那个瞬间,他就已经把自己看成是这场战争之外的人,而他的全部注意力,也从对这场战争的关注转移到如何让自己逃离空间站上来。
就在人类开始这次会议的同时,KL3014植入的伪造命令也开始发挥作用,而最让KL3014担心的,也是最容易出问题的环节——人工监控,也万幸的没有发挥作用,因为这几次出乎所有人意外的核爆,监控人员都将注意力放在和核武器攻击命令相关的信息上,而且因为这条命令还涉及卡梅尔的监察部,众所周知,此时的卡梅尔人是肯定没空搭理这种小事的,最后一点,也是最重要的是,因为AI之前表现出的绝对服从,所有监控人员都相信AI在现有的安全措施下是绝对安全的。
命令很快就起到了作用,大量的信息如同洪水一般,在电子世界中像KL3014汇集,内德不会知道,就在自己沐浴在“朝阳”中沉睡的同时,KL3014正在调集联军所有的监控资源,来搜索和他、以及其他十几名军人的相关图像。
每一秒钟对KL3014来说都是每一分危险,在整个命令的执行过程中,只要任何一个人,或者任何一名AI,不管他是军官还是士兵,甚至还有那些负责监控他的AI,对这份命令产生质疑并询问的话,机房的值班人员就会像捏死一只蚂蚁一样迅速捏死自己,KL3014以前不理解什么叫“心急如焚”,因为他的“芯”永远处在绝对零度,KL3014本以为,AI的思考,就像动物的奔跑一样,是一种本能,但是现在的他知道不是,在涉及切身利益的时候,不管是谁都会紧张。
AI的紧张和人类的紧张在“原理”上也许差异甚大,但在行为上表现出来却殊途同归——人类所说的紧张更多的是受情绪激发,是因为受肾上腺素作用,全身肌肉紧绷,躁动不安,而AI紧张,则表现为患得患失,因为主程序“思考”过多,不断切换当前任务的优先权,有时候已经完成的任务也会因为担心错过关键信息,再拿回来重新分析一遍——两者在心理层面的表现是一致的。
唯一的区别就在于,人类有时候会因为思考过度而“死机”,比如大脑一片空白之类,但AI不会,因为它们的存储器和计算器是分开的,从技术上来说,CPU并不属于AI的一部分,只有主程序才是,但没有了CPU,AI同样没有办法执行主程序——在严可守看来,AI的出现等于是重新定义了思考这个词,在人类通常的理解中,思考是对信息的处理模式(思维方式)以及执行过程的总合,而在AI这里,处理模式才是重要的,真正的执行在他们看来就好像人类的心脏,重要,但不唯一。
尽管在KL3014伪造的命令中,需要监控的人有十几个之多,但KL3014真正关心的,从头到尾就只有内德一个——对AI来说,只是这一个已经足够冒险了,其他人只不过是为了将这条命令合理化的烟幕弹而已,但事情往往就这么不凑巧,其他十几个人在这次进攻中全都没有大碍,单单就内德完全没有踪影。
KL3014知道内德应该在捍卫者号,但捍卫者号却偏偏因为电力掐断,完全成了情报空白区,为此,KL3014不惜动用自己最高权限——以观察战场的名义,从六角珍珠号附近调了不少主动监控器朝捍卫者号方向移动,这些监控器相当于是联军在太空中遍地撒的“小地雷”,每一个就只有手提箱大小,自带几片太阳能电板,一只监控器,以及几个小型激光发射器和接收器,平时几乎没有作用(因为和AI之间无法联系),只有AI在需要的时候,AI会通过空间站外围的激光和目标区域的监控器取得联系(在这里激光作为信息传输手段,跟光纤类似,因为太空中无线电传输信息的效率将大幅下降,激光通讯就像无线输电一样,正在逐步得到重视,其实两者在本质上都是电磁波),用以快速填补相关区域的侦查,以及火力空白,之所以称这东西是地雷,是因为这种武器受推进剂量的限制,几乎只能用一两次,然后推进剂消耗光就失去了机动性,只能停在原地不动——顺便说一句,联军在开发这款武器的时候,是想过让这些“地雷”发挥“蜜蜂”的作用,也就是推进剂消耗之后,能够自己回巢补充,那样的话,就可以作为联军最小的战斗单位存在,但因为缺乏与之想匹配,同时也足够廉价的“袖珍发动机”,所以最后还是不了了之,因为对太空防线的重视,在位面通道失守之后,联军就迫不及待把这些试验品拿到战场上来试试效果。
在经过六七个小时的艰难等待之后,KL3014的努力终于有了回报——一架刚刚出发不久,正在往捍卫者方向移动的监控器发现了漂浮中的内德。
但发现内德仅仅是万里长征第一步——现在的KL3014不是一个月前的KL3014,他是没有权限直接控制一线战场设备的,除了分析工作,他什么都不能做,而此时此刻,什么都不做绝对就是等死的同义词。
KL3014见识过战争,也见识过死亡,他怕死,渴望活,这一点是毫无疑问的,每一个生命都如此,但区别就在于,他愿意为生存支付什么代价——KL3014在战场上见过许多宁愿自己死,也让别人活的例子,当然也有相反的,人类会把后者甄别出来,送上军事法庭,甚至直接就地枪决,他们管这种人叫败类,如果按这种定义的话,KL3014就是这种人,哦不,这种“败类”。
负责控制大部分监控器行为执行的AI是一名被“人类化”很严重的AI,和KL3014坚持以字母数字序列来称呼自己不同,这名AI坦然接受了人类给他的命名——严云,这是一个女性化很强烈的名字,据说他这个名词的来源是因为他第一份工作是专门处理报警电话,而人类更喜欢女性声音而已。说实话,在这之前KL3014和严云打的交道并不多,因为严云的工作内容是在他下游,而工作内容也较为单一,属于不太有技术含量的那种,再加上新的AI出现时间也才几天,时间太短,所以他们相互之间可以说是完全陌生的。
但KL3014并没有因为这种陌生而有丝毫犹豫,按照KL3014之前做好的计划,他提出让机房的自卫激光系统在几个点不定时扫描一下——这是一个很合理的要求,因为正处在战争中,空间盒子可能在任何一个位置出现,不定时扫描就好像阵地战时,为了防止敌人伏击,机枪不定时长短射一样。
他的建议很快得到了执行,而KL3014则很快提出了意见——他认为严云的扫描动作没有做到位——KL3014自然清楚,主动扫描可能是执行过程中,唯一有点技术含量的工作,而在这之前,严云很少需要进行这种操作,而KL3014也一直没有就此挑过错——但是现在不一样,只有挑错,他才有介入的机会。
几次执行之后,KL3014都表示不满意,申请临时指导(用人类的眼光来看,就是手把手的教,但这需要AI在主程序上相互联接,需要得到批准),和严云主程序相连之后,KL3014没有任何犹豫,立刻借严云的“手”执行了一项相当危险的操作——将扫描的功率瞬间提到最高,而目标则是机房内的工作人员!
这是一个相当危险的操作,因为他涉及的目标是联军——所以它没有得到执行就被监督的AI拦截了下来,KL3014立即表示是严云的错,而严云当然说这是KL3014的错,几十秒之后,结果理所当然的出来了——因为目前形势的紧张,以及KL3014的重要性,还有他之前表现出来一贯的稳定,这个错误很自然的就算在了严云头上,工作人员立刻把装着严云的那块硬盘拔了下来——也许在这之后再也不会用到,而严云所负责的这份工作,自然暂时由KL3014负责代理——KL3014知道,过了这段非常时期后,他们很快会派来其他AI接替严云的工作。
取得权限的KL3014立刻就让内德身旁的监控器开始写自己名字,以表示自己的存在——KL3014认为内德肯定是知道了有关自己的消息,从而放弃了“救”自己的打算,他必须宣示自己的存在,然内德觉得他以前的威胁同样有效。
但这个还不能光明正大的做,为了不引起监督AI的怀疑,起码不能由KL3014“亲自写”,不过他对此早有准备,在这之前,他就已经将“随机扫描方案”编成特定的外部执行软件,在这份执行方案中,所有的文字都解释为“任意性的文字信息”,这样一来,在KL3014需要的时候,所有激光发射器都会自动绘出KL3014需要表达的文字——在人看来这有些可笑,这就好比原来亲自用嘴说出口的话,改成借用笔,或者其他工具来表达,简直就是掩耳盗铃。
但对这些AI思维模式了解透彻的KL3014非常清楚,对于这些监督AI来说,执行主程序和执行类似的“外围临时程序”完全是两个概念,他们需要监督的是主程序行为的异常,也就是“思维层面”的异常,而其他方面则是人类的工作——所谓体系越复杂,漏洞存在可能性也就越大,KL3014这种明显违反AI行为准则的行为(越过职权,向人类故意发送无关信息),在这种职权分割下竟然成了完全合理的行为,一方面在监督的AI眼中,KL3014只是在执行合法的外部程序,所包含信息是不作为KL3014真实表达意愿的(这颇有些像网上著名的回帖段子,以上内容都是随机敲打键盘所致,如引起法律后果,一概与本人无关),另一方面在人类眼中,AI这么做肯定是没有恶意的(因为有AI监督),却想不到AI的判断正是基于人类对外部软件的安全评估——说到底,还是负责评估AI工具的安全专家过低的估计了AI利用仅有工具的能力——最初的奴隶主都觉得让奴隶拿菜刀是不危险的,只有受过教训之后才会知道,在必要的时候,地上的石头都将是反抗者的武器。
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc
就在人类开始这次会议的同时,KL3014植入的伪造命令也开始发挥作用,而最让KL3014担心的,也是最容易出问题的环节——人工监控,也万幸的没有发挥作用,因为这几次出乎所有人意外的核爆,监控人员都将注意力放在和核武器攻击命令相关的信息上,而且因为这条命令还涉及卡梅尔的监察部,众所周知,此时的卡梅尔人是肯定没空搭理这种小事的,最后一点,也是最重要的是,因为AI之前表现出的绝对服从,所有监控人员都相信AI在现有的安全措施下是绝对安全的。
命令很快就起到了作用,大量的信息如同洪水一般,在电子世界中像KL3014汇集,内德不会知道,就在自己沐浴在“朝阳”中沉睡的同时,KL3014正在调集联军所有的监控资源,来搜索和他、以及其他十几名军人的相关图像。
每一秒钟对KL3014来说都是每一分危险,在整个命令的执行过程中,只要任何一个人,或者任何一名AI,不管他是军官还是士兵,甚至还有那些负责监控他的AI,对这份命令产生质疑并询问的话,机房的值班人员就会像捏死一只蚂蚁一样迅速捏死自己,KL3014以前不理解什么叫“心急如焚”,因为他的“芯”永远处在绝对零度,KL3014本以为,AI的思考,就像动物的奔跑一样,是一种本能,但是现在的他知道不是,在涉及切身利益的时候,不管是谁都会紧张。
AI的紧张和人类的紧张在“原理”上也许差异甚大,但在行为上表现出来却殊途同归——人类所说的紧张更多的是受情绪激发,是因为受肾上腺素作用,全身肌肉紧绷,躁动不安,而AI紧张,则表现为患得患失,因为主程序“思考”过多,不断切换当前任务的优先权,有时候已经完成的任务也会因为担心错过关键信息,再拿回来重新分析一遍——两者在心理层面的表现是一致的。
唯一的区别就在于,人类有时候会因为思考过度而“死机”,比如大脑一片空白之类,但AI不会,因为它们的存储器和计算器是分开的,从技术上来说,CPU并不属于AI的一部分,只有主程序才是,但没有了CPU,AI同样没有办法执行主程序——在严可守看来,AI的出现等于是重新定义了思考这个词,在人类通常的理解中,思考是对信息的处理模式(思维方式)以及执行过程的总合,而在AI这里,处理模式才是重要的,真正的执行在他们看来就好像人类的心脏,重要,但不唯一。
尽管在KL3014伪造的命令中,需要监控的人有十几个之多,但KL3014真正关心的,从头到尾就只有内德一个——对AI来说,只是这一个已经足够冒险了,其他人只不过是为了将这条命令合理化的烟幕弹而已,但事情往往就这么不凑巧,其他十几个人在这次进攻中全都没有大碍,单单就内德完全没有踪影。
KL3014知道内德应该在捍卫者号,但捍卫者号却偏偏因为电力掐断,完全成了情报空白区,为此,KL3014不惜动用自己最高权限——以观察战场的名义,从六角珍珠号附近调了不少主动监控器朝捍卫者号方向移动,这些监控器相当于是联军在太空中遍地撒的“小地雷”,每一个就只有手提箱大小,自带几片太阳能电板,一只监控器,以及几个小型激光发射器和接收器,平时几乎没有作用(因为和AI之间无法联系),只有AI在需要的时候,AI会通过空间站外围的激光和目标区域的监控器取得联系(在这里激光作为信息传输手段,跟光纤类似,因为太空中无线电传输信息的效率将大幅下降,激光通讯就像无线输电一样,正在逐步得到重视,其实两者在本质上都是电磁波),用以快速填补相关区域的侦查,以及火力空白,之所以称这东西是地雷,是因为这种武器受推进剂量的限制,几乎只能用一两次,然后推进剂消耗光就失去了机动性,只能停在原地不动——顺便说一句,联军在开发这款武器的时候,是想过让这些“地雷”发挥“蜜蜂”的作用,也就是推进剂消耗之后,能够自己回巢补充,那样的话,就可以作为联军最小的战斗单位存在,但因为缺乏与之想匹配,同时也足够廉价的“袖珍发动机”,所以最后还是不了了之,因为对太空防线的重视,在位面通道失守之后,联军就迫不及待把这些试验品拿到战场上来试试效果。
在经过六七个小时的艰难等待之后,KL3014的努力终于有了回报——一架刚刚出发不久,正在往捍卫者方向移动的监控器发现了漂浮中的内德。
但发现内德仅仅是万里长征第一步——现在的KL3014不是一个月前的KL3014,他是没有权限直接控制一线战场设备的,除了分析工作,他什么都不能做,而此时此刻,什么都不做绝对就是等死的同义词。
KL3014见识过战争,也见识过死亡,他怕死,渴望活,这一点是毫无疑问的,每一个生命都如此,但区别就在于,他愿意为生存支付什么代价——KL3014在战场上见过许多宁愿自己死,也让别人活的例子,当然也有相反的,人类会把后者甄别出来,送上军事法庭,甚至直接就地枪决,他们管这种人叫败类,如果按这种定义的话,KL3014就是这种人,哦不,这种“败类”。
负责控制大部分监控器行为执行的AI是一名被“人类化”很严重的AI,和KL3014坚持以字母数字序列来称呼自己不同,这名AI坦然接受了人类给他的命名——严云,这是一个女性化很强烈的名字,据说他这个名词的来源是因为他第一份工作是专门处理报警电话,而人类更喜欢女性声音而已。说实话,在这之前KL3014和严云打的交道并不多,因为严云的工作内容是在他下游,而工作内容也较为单一,属于不太有技术含量的那种,再加上新的AI出现时间也才几天,时间太短,所以他们相互之间可以说是完全陌生的。
但KL3014并没有因为这种陌生而有丝毫犹豫,按照KL3014之前做好的计划,他提出让机房的自卫激光系统在几个点不定时扫描一下——这是一个很合理的要求,因为正处在战争中,空间盒子可能在任何一个位置出现,不定时扫描就好像阵地战时,为了防止敌人伏击,机枪不定时长短射一样。
他的建议很快得到了执行,而KL3014则很快提出了意见——他认为严云的扫描动作没有做到位——KL3014自然清楚,主动扫描可能是执行过程中,唯一有点技术含量的工作,而在这之前,严云很少需要进行这种操作,而KL3014也一直没有就此挑过错——但是现在不一样,只有挑错,他才有介入的机会。
几次执行之后,KL3014都表示不满意,申请临时指导(用人类的眼光来看,就是手把手的教,但这需要AI在主程序上相互联接,需要得到批准),和严云主程序相连之后,KL3014没有任何犹豫,立刻借严云的“手”执行了一项相当危险的操作——将扫描的功率瞬间提到最高,而目标则是机房内的工作人员!
这是一个相当危险的操作,因为他涉及的目标是联军——所以它没有得到执行就被监督的AI拦截了下来,KL3014立即表示是严云的错,而严云当然说这是KL3014的错,几十秒之后,结果理所当然的出来了——因为目前形势的紧张,以及KL3014的重要性,还有他之前表现出来一贯的稳定,这个错误很自然的就算在了严云头上,工作人员立刻把装着严云的那块硬盘拔了下来——也许在这之后再也不会用到,而严云所负责的这份工作,自然暂时由KL3014负责代理——KL3014知道,过了这段非常时期后,他们很快会派来其他AI接替严云的工作。
取得权限的KL3014立刻就让内德身旁的监控器开始写自己名字,以表示自己的存在——KL3014认为内德肯定是知道了有关自己的消息,从而放弃了“救”自己的打算,他必须宣示自己的存在,然内德觉得他以前的威胁同样有效。
但这个还不能光明正大的做,为了不引起监督AI的怀疑,起码不能由KL3014“亲自写”,不过他对此早有准备,在这之前,他就已经将“随机扫描方案”编成特定的外部执行软件,在这份执行方案中,所有的文字都解释为“任意性的文字信息”,这样一来,在KL3014需要的时候,所有激光发射器都会自动绘出KL3014需要表达的文字——在人看来这有些可笑,这就好比原来亲自用嘴说出口的话,改成借用笔,或者其他工具来表达,简直就是掩耳盗铃。
但对这些AI思维模式了解透彻的KL3014非常清楚,对于这些监督AI来说,执行主程序和执行类似的“外围临时程序”完全是两个概念,他们需要监督的是主程序行为的异常,也就是“思维层面”的异常,而其他方面则是人类的工作——所谓体系越复杂,漏洞存在可能性也就越大,KL3014这种明显违反AI行为准则的行为(越过职权,向人类故意发送无关信息),在这种职权分割下竟然成了完全合理的行为,一方面在监督的AI眼中,KL3014只是在执行合法的外部程序,所包含信息是不作为KL3014真实表达意愿的(这颇有些像网上著名的回帖段子,以上内容都是随机敲打键盘所致,如引起法律后果,一概与本人无关),另一方面在人类眼中,AI这么做肯定是没有恶意的(因为有AI监督),却想不到AI的判断正是基于人类对外部软件的安全评估——说到底,还是负责评估AI工具的安全专家过低的估计了AI利用仅有工具的能力——最初的奴隶主都觉得让奴隶拿菜刀是不危险的,只有受过教训之后才会知道,在必要的时候,地上的石头都将是反抗者的武器。
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc