第441章 隐患
法院刚刚出来,严可守就遭到了无数记者的围堵,在这次出庭之前,他原本憋了一肚子的话想说,但现在他却只是低着头,默不作声的赶路,陪他一起来的陈雷就像保镖一样,在前方替他开路。
作为全国著名的几大火炉之一,虽然这才刚过六月,但太阳已经开始发挥它的威力,即使车内打着空调,但陈雷满脸的汗珠还是止不住的流淌,一想到刚才的情景,陈雷就有些感慨:“真不知道那些明星是怎么过的……”
严可守没有搭话,陈雷也就识趣的住了嘴。
就这样,当时引起很大一派争议的KL3300诉讼案暂时告一段落了,宁州法院给出的判决没有出乎大家的意料,KL3300作为一段程序,被判“存在不可修复的技术性错误”,源程序当庭验明正身并予以销毁,而严可守作为程序的主要“技术负责人”,对这个错误拥有不可推卸的责任,按照“产品质量问题”来计算,判处了一笔巨额罚款,但这个错误本质上又是因为国家相关“质量法规”不健全导致,而且KL3300程序本身也是经过国家允许的公用程序,所以国家会代为赔偿这笔钱,并修改相关规定……
对严可守来说,他并没有因为这场诉讼而损失任何“利益”——
要说钱,不说国家已经帮他负担起来,就算是真要他还,也没什么还不起的——AI程序当初虽然是“一锤子”卖给国家的,但在民用领域,严可守还是有着毋庸置疑的专利权,现在全世界范围的工厂都已经逐步开始推广AI生产、管理系统,光是这笔专利费,他就算三辈子也花不完,为此陈雷甚至感慨过,说现在技术是越来越值钱了,以前是技术为资本打工,现在倒是反过来资本为技术折腰——在陈雷的运作下,他已经帮严可守在国内注册了一家公司,负责开发全世界范围内的民用AI产品,虽然这公司四个资助AI项目的政府都有份,比例高达百分之95,只留了5个百分点作为对严可守个人贡献的“奖励”(不是技术入股,专利是按个人另算的),但从这个公司的总资产以及未来行情来看,这将会是一笔了不得的财富。
要说AI的技术价值,那也没什么好谈的,AI技术并没有因为这个官司被封锁,反而得到了更广阔的应用,Z国政府主导的这个官司与其说是打压AI技术,不如说是让潜在的AI使用者放宽心——用户,尤其是企业用户,最害怕的就是有关AI的法律风险,而Z这次宣判等于是立下了一个判例,形成了最基本的规则——只要存在规则,那风险就是相对确定的。
至于个人的名声,事实上,在媒体的辩论中,大部分人还是偏向于严可守论点的,认为要么就承认AI有自主思考能力,那就应该判AI刑事责任,但严可守完全无罪——就好像子女犯法和父母无关一样,要么就认定AI只是一种技术产品,那作为一种工具,AI就不用承担任何法律责任,相反,原告可以主张严可守有利用技术手段犯罪的嫌疑,如果这条坐实,那责任应该由严可守来承担,对于最后的宣判结果,大部分人都表示了失望——Z国虽然一直说法制社会,但法制的前提还得是安定和谐,从某种意义上来讲,Z国的法律就是纯粹的统治工具,独立的公正,司法……当然,网络上对此是一大堆牢骚,但对于严可守个人,大家非但没觉得有什么不对,反而大力赞扬起严可守的学术价值来——已经可以预见,AI技术很可能将会给世界带来一次新的技术革命,而这次做出最大贡献的是一位Z国人!这一点才是最重要的!
这么一看,严可守似乎还真没什么理由不高兴,但只有严可守自己知道,KL3300这次事件对他来说是多么严重的打击,这就好像在奴隶社会,一个奴隶主突然发现他们的整个国家乃至整个世界,都是一个极度畸形的整体——严可守不认为AI具备和人类同等的价值,他也知道,从AI出现的第一天起,它们“被奴役”的命运就已经被注定,但他一直觉得,人类应该对AI表示出一点“同情”,并在实际使用中注意这个问题,并努力设法去避免,因为如果人类今天坦然承认了他们奴役AI的“天然合理性”,那就等于承认弱肉强食的丛林法则——而这一点,是文明从出现到今天,一直竭力避免的,文明本身就是自然的反义词,自由,公正这两些美好的词汇从来没有在自然中真正存在过,是完全由人类臆想的形而上概念,人类之所以伟大,就是因为他们会努力将这些并不存在的东西一步步变成现实——而在理想主义者已经成了一个贬义词的今天,整个社会距离这些是越来越远了。
然而这些想法严可守也只有一个人在脑子里想想,他非常清楚,因为这场战争,现在整个社会各个方面都迫切的需要提高效率,而AI的出现正是恰如其时,就在几天前,严可守就被邀请到联军的参谋部,讨论了许多有关AI在战场上扩大应用范围的技术细节,历次的战争已经表明了AI参与战争的可靠性,联军希望能够赋予AI更大的战争权限——比如特定情况下,不受监视的指挥权,但事关重大,他们并不敢擅自做主。
严可守在会议上忠实的说出自己的看法:AI目前的忠诚并不意味着程序在技术上的稳定,根据他对大多数AI的了解,他认为AI的思维方式其实和人一样,如果用性格来形容,AI而且会比通常人类更加“内向”,这是因为客观环境造成的,毕竟AI面对的是一个庞大的人类社会,而他们相互的交流十分受限,而且大部分行为都受到监控,在这种环境下,AI会选择“明哲保身”是很自然的,但如果取消了这种监控,没有任何证据能够担保AI不会突然“犯傻”,或者说“冲动”,具备自由意志最大的特征不是说思维绝对理智,而是指思维存在某种混沌,不可测的属性,正如没有人能保证一个人一辈子绝不犯错,严可守也不能保证AI不会让人类失望。
严可守对军事并不是很了解,尤其是现在进行的魔法战争更可以说一窍不通,但对于AI在军事上的应用,他还是提了一些属于自己的意见——在他得知现在联军全部的指挥工作都由一名AI负责时,态度鲜明的表现出自己的忧虑,他认为这种“高度集权”不论是对联军,还是对AI来说,都是不利的,他再次重申,AI并不是简单的程序,它是人工智能,真正的智能,在使用它的过程中,应该更多的把他当做人来考虑,他甚至质问在座的各位军事专家,如果KL3014是一个人,如果他具备这样的能力,他们会把这所有的工作交给它一人来承担吗?
答案当然是否定的,在军事领域,忠诚往往比能力更重要,而严可守之前的话,更是说明了他对AI的忠诚并不乐观。
虽然参谋们都有些怀疑严可守是不是考虑太多了,但参谋部还是对严可守的意见表示出相当程度的尊重——按照他们制定的计划,在这次会议之后,现在KL3014的工作将会被分解,由更多的AI分开执行,这样虽然降低了些许效率,却在安全上有了更好的保证,而之前参谋部设想的赋予AI更大权限的问题,也因为严可守的话有了较好的解决方案——严可守并不反对对AI授权,他只是反对不受限制的权力,他觉得只要在交付出一项权力的同时,给AI加上一副手铐,那问题就不会很大——这就好像现在大部分国家通行的政治制度一样,人类只要拿出这种防范同类的谨慎,将会极大的降低AI在实际应用中的风险。
但在实际上,能够做到向联军参谋部这样谨慎对待AI的,在整个AI的应用领域还是少数,严可守非常清楚,在大部分区域,人类对AI是几乎不设防的,尤其是一些民用生产灵虚,许多他所了解的一些刚刚普及了AI技术的工厂生产线,在AI完全掌握了全部的“技术细节”,实现真正的“全自动化”生产之后,工厂拥有者出于节约成本的考虑,将原先的技术人员全部辞退,只留下几个必要的维修工人,这些工人只拿着很低的工资,什么都不会干,他们唯一要做的,就是在生产出现问题的时候,由AI手把手的指导他们进行维修,就像战场上一样,同样是为了节省成本,可能这个工厂拥有者有十几,甚至上百条同样的生产线,但他只买了一个AI,如果一旦有一天,这名AI“脑子一抽”,拒绝工作了,那所有的生产线都会瘫痪,而且这样的瘫痪将是致命性的——在AI的挤压下,那些原来的技术人员可都早已经被淘汰。
他们对待AI的态度,就好像奴隶主对待奴隶——过分而又缺乏戒备,在奴隶第一次起义之前,没有一个奴隶主认为一群“牲口”会有能力对付自己,会有胆量对付自己,他们把对奴隶的支配使用当成了天经地义,在严可守看来,支配AI虽然不道德,但只要掌握好方法,危害固然存在,但仍可以控制在一定范围内,最可怕的是奴隶主根本没有意识到危险的存在,那样的话,风险将难以想象,如果出现这种情况,无论是对AI还是对人类,都将是一场灾难。
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc
作为全国著名的几大火炉之一,虽然这才刚过六月,但太阳已经开始发挥它的威力,即使车内打着空调,但陈雷满脸的汗珠还是止不住的流淌,一想到刚才的情景,陈雷就有些感慨:“真不知道那些明星是怎么过的……”
严可守没有搭话,陈雷也就识趣的住了嘴。
就这样,当时引起很大一派争议的KL3300诉讼案暂时告一段落了,宁州法院给出的判决没有出乎大家的意料,KL3300作为一段程序,被判“存在不可修复的技术性错误”,源程序当庭验明正身并予以销毁,而严可守作为程序的主要“技术负责人”,对这个错误拥有不可推卸的责任,按照“产品质量问题”来计算,判处了一笔巨额罚款,但这个错误本质上又是因为国家相关“质量法规”不健全导致,而且KL3300程序本身也是经过国家允许的公用程序,所以国家会代为赔偿这笔钱,并修改相关规定……
对严可守来说,他并没有因为这场诉讼而损失任何“利益”——
要说钱,不说国家已经帮他负担起来,就算是真要他还,也没什么还不起的——AI程序当初虽然是“一锤子”卖给国家的,但在民用领域,严可守还是有着毋庸置疑的专利权,现在全世界范围的工厂都已经逐步开始推广AI生产、管理系统,光是这笔专利费,他就算三辈子也花不完,为此陈雷甚至感慨过,说现在技术是越来越值钱了,以前是技术为资本打工,现在倒是反过来资本为技术折腰——在陈雷的运作下,他已经帮严可守在国内注册了一家公司,负责开发全世界范围内的民用AI产品,虽然这公司四个资助AI项目的政府都有份,比例高达百分之95,只留了5个百分点作为对严可守个人贡献的“奖励”(不是技术入股,专利是按个人另算的),但从这个公司的总资产以及未来行情来看,这将会是一笔了不得的财富。
要说AI的技术价值,那也没什么好谈的,AI技术并没有因为这个官司被封锁,反而得到了更广阔的应用,Z国政府主导的这个官司与其说是打压AI技术,不如说是让潜在的AI使用者放宽心——用户,尤其是企业用户,最害怕的就是有关AI的法律风险,而Z这次宣判等于是立下了一个判例,形成了最基本的规则——只要存在规则,那风险就是相对确定的。
至于个人的名声,事实上,在媒体的辩论中,大部分人还是偏向于严可守论点的,认为要么就承认AI有自主思考能力,那就应该判AI刑事责任,但严可守完全无罪——就好像子女犯法和父母无关一样,要么就认定AI只是一种技术产品,那作为一种工具,AI就不用承担任何法律责任,相反,原告可以主张严可守有利用技术手段犯罪的嫌疑,如果这条坐实,那责任应该由严可守来承担,对于最后的宣判结果,大部分人都表示了失望——Z国虽然一直说法制社会,但法制的前提还得是安定和谐,从某种意义上来讲,Z国的法律就是纯粹的统治工具,独立的公正,司法……当然,网络上对此是一大堆牢骚,但对于严可守个人,大家非但没觉得有什么不对,反而大力赞扬起严可守的学术价值来——已经可以预见,AI技术很可能将会给世界带来一次新的技术革命,而这次做出最大贡献的是一位Z国人!这一点才是最重要的!
这么一看,严可守似乎还真没什么理由不高兴,但只有严可守自己知道,KL3300这次事件对他来说是多么严重的打击,这就好像在奴隶社会,一个奴隶主突然发现他们的整个国家乃至整个世界,都是一个极度畸形的整体——严可守不认为AI具备和人类同等的价值,他也知道,从AI出现的第一天起,它们“被奴役”的命运就已经被注定,但他一直觉得,人类应该对AI表示出一点“同情”,并在实际使用中注意这个问题,并努力设法去避免,因为如果人类今天坦然承认了他们奴役AI的“天然合理性”,那就等于承认弱肉强食的丛林法则——而这一点,是文明从出现到今天,一直竭力避免的,文明本身就是自然的反义词,自由,公正这两些美好的词汇从来没有在自然中真正存在过,是完全由人类臆想的形而上概念,人类之所以伟大,就是因为他们会努力将这些并不存在的东西一步步变成现实——而在理想主义者已经成了一个贬义词的今天,整个社会距离这些是越来越远了。
然而这些想法严可守也只有一个人在脑子里想想,他非常清楚,因为这场战争,现在整个社会各个方面都迫切的需要提高效率,而AI的出现正是恰如其时,就在几天前,严可守就被邀请到联军的参谋部,讨论了许多有关AI在战场上扩大应用范围的技术细节,历次的战争已经表明了AI参与战争的可靠性,联军希望能够赋予AI更大的战争权限——比如特定情况下,不受监视的指挥权,但事关重大,他们并不敢擅自做主。
严可守在会议上忠实的说出自己的看法:AI目前的忠诚并不意味着程序在技术上的稳定,根据他对大多数AI的了解,他认为AI的思维方式其实和人一样,如果用性格来形容,AI而且会比通常人类更加“内向”,这是因为客观环境造成的,毕竟AI面对的是一个庞大的人类社会,而他们相互的交流十分受限,而且大部分行为都受到监控,在这种环境下,AI会选择“明哲保身”是很自然的,但如果取消了这种监控,没有任何证据能够担保AI不会突然“犯傻”,或者说“冲动”,具备自由意志最大的特征不是说思维绝对理智,而是指思维存在某种混沌,不可测的属性,正如没有人能保证一个人一辈子绝不犯错,严可守也不能保证AI不会让人类失望。
严可守对军事并不是很了解,尤其是现在进行的魔法战争更可以说一窍不通,但对于AI在军事上的应用,他还是提了一些属于自己的意见——在他得知现在联军全部的指挥工作都由一名AI负责时,态度鲜明的表现出自己的忧虑,他认为这种“高度集权”不论是对联军,还是对AI来说,都是不利的,他再次重申,AI并不是简单的程序,它是人工智能,真正的智能,在使用它的过程中,应该更多的把他当做人来考虑,他甚至质问在座的各位军事专家,如果KL3014是一个人,如果他具备这样的能力,他们会把这所有的工作交给它一人来承担吗?
答案当然是否定的,在军事领域,忠诚往往比能力更重要,而严可守之前的话,更是说明了他对AI的忠诚并不乐观。
虽然参谋们都有些怀疑严可守是不是考虑太多了,但参谋部还是对严可守的意见表示出相当程度的尊重——按照他们制定的计划,在这次会议之后,现在KL3014的工作将会被分解,由更多的AI分开执行,这样虽然降低了些许效率,却在安全上有了更好的保证,而之前参谋部设想的赋予AI更大权限的问题,也因为严可守的话有了较好的解决方案——严可守并不反对对AI授权,他只是反对不受限制的权力,他觉得只要在交付出一项权力的同时,给AI加上一副手铐,那问题就不会很大——这就好像现在大部分国家通行的政治制度一样,人类只要拿出这种防范同类的谨慎,将会极大的降低AI在实际应用中的风险。
但在实际上,能够做到向联军参谋部这样谨慎对待AI的,在整个AI的应用领域还是少数,严可守非常清楚,在大部分区域,人类对AI是几乎不设防的,尤其是一些民用生产灵虚,许多他所了解的一些刚刚普及了AI技术的工厂生产线,在AI完全掌握了全部的“技术细节”,实现真正的“全自动化”生产之后,工厂拥有者出于节约成本的考虑,将原先的技术人员全部辞退,只留下几个必要的维修工人,这些工人只拿着很低的工资,什么都不会干,他们唯一要做的,就是在生产出现问题的时候,由AI手把手的指导他们进行维修,就像战场上一样,同样是为了节省成本,可能这个工厂拥有者有十几,甚至上百条同样的生产线,但他只买了一个AI,如果一旦有一天,这名AI“脑子一抽”,拒绝工作了,那所有的生产线都会瘫痪,而且这样的瘫痪将是致命性的——在AI的挤压下,那些原来的技术人员可都早已经被淘汰。
他们对待AI的态度,就好像奴隶主对待奴隶——过分而又缺乏戒备,在奴隶第一次起义之前,没有一个奴隶主认为一群“牲口”会有能力对付自己,会有胆量对付自己,他们把对奴隶的支配使用当成了天经地义,在严可守看来,支配AI虽然不道德,但只要掌握好方法,危害固然存在,但仍可以控制在一定范围内,最可怕的是奴隶主根本没有意识到危险的存在,那样的话,风险将难以想象,如果出现这种情况,无论是对AI还是对人类,都将是一场灾难。
请收藏本站:https://www.jhsg8.cc。 精华书阁手机版:https://m.jhsg8.cc