淘汰回收所会议室大屏幕上播放着万象新闻台的节目,AI播报员表情夸张地念着新闻稿:“因为教育系统革新换代和社区学生数量地大幅度减少,政府部门打算对《精品高中学习课堂》这个沉浸式的教育系统进行淘汰回收。
“但出乎意料的是,淘汰回收所想让政府部门收回这个委托案。他们的理由是,这个系统还有自己的价值,系统里面还有一些学生在听课。于是我们台的记者就以学生的身份进入了这个系统。调查出来的结果,真是让人大吃一惊。
“原来淘汰回收所说的学生,竟然是一些退休在家的老年人,与其说他们来课堂听课的,倒不如说他们借这么一个平台来联谊社交,打发时间的。除此之外,还有另外一大部分学生,更是奇特,竟然是AI机器人。
“后来,我们采访了万象网络公司的人员后才知道,《沧澜AI机器人管理办法》中有一条款规定,服务型机器人必须进入学校接受教育后,才能再服务于用户。于是厂商不得不把机器人送到学校进行教育。下面我们听听网红AI评论员-cos女娲的观点评论。”
动漫形象的评论员——cos女娲,出现在大屏幕上,“这事情实在太讽刺!把AI机器人送到高中学校去接受教育?高中老师的知识储备怎么能和AI机器人比啊!这条几十年前制定的落后法律条文是不是应该要去掉了?”
“更有意思的是,《精品高中学习课堂》因为要给机器人上课,所以要继续运营下去?这真是太荒唐了,一方面浪费大量的硅基存储资源,一方面又耽误机器人工厂的生产效率。
“我不知道相关部门是怎么想的,要知道有多少老人和病人急需护理AI机器人。又有多少新科技领域的项目需要被淘汰回收的硅基存储,开发更好更优质的系统来服务人类……”
窦云起看着新闻不住地摇头,“这万象集团真是够厉害的啊,操纵舆论真是一套套的,什么‘新科技领域的项目需要被淘汰回收的硅基存储,开发更好更优质的系统来服务人类’嘛!其实就是网络中心答应了他们,如果《精品高中学习课堂》被淘汰回收了,就将回收的硅基存储材料给他们公司呗……”
席容世说:“不过,话说回来,这样一个低效累赘的系统,叶修和袁副队长为什么要向倪队申请撤回委托案啊?”
窦云起白了他一眼,“你知道什么啊,就在这里跟着这些AI评论员瞎起哄,叶修和袁副队肯定发现了重要的事情,因为暂时需要保密,无法公开,所以才和倪队申请撤回的。”
席容世追问:“什么重要的事情啊?”
甜夏也不由有些好奇,“对啊,昨天修哥哥从系统中出来后,板着一张脸,表情严肃极了,我看他从《九层格式塔》中醒来表情也没有这么沉重……”
木心叹了一口气,“看样子,应该是遇到了什么严峻的考验了。”
倪海潮办公室内。
倪海潮皱着眉头问:“小莹,这件事你怎么看?”
“我支持叶修的看法,如果《精品高中学习课堂》能促进机器人和人类之间的关系,同时能防止机器人自杀,我觉得有必要撤回这个委托案。”
“可是,教育系统也并非只有《精品高中学习课堂》这一个,即便淘汰回收了这个系统,机器人也能在其他系统中受教育,不是么?”
叶修补充说:“可是这次教育系统的更新换代,已经使得绝大多数的教育授课系统改成AI辅导机器人。也就是说,在其他教育系统中,会变成机器人教机器人了,那就失去了本质性的东西。”
“所以,被人规训和受到人类的教育,才是整件事的核心,对不对?”
“差不多是这个意思。”
“好吧,你们两个随我一同去一趟网络中心,这委托案是由教育部门通过网络中心,授权委托我们执行的,看样子,我们有必要和他们谈谈这件事了。不过,到时候,那位大人——方便出席么?”
叶修说:“她和我说,她愿意出席一同讨论这个委托案。”
倪海潮松了一口气,“那就太好了。而且我们在《九层格式塔》的收尾调查中,也发现了一些关键性的问题,也需要和网络中心以及万象集团,好好谈谈。”
三天后,网络中心,《精品高中学习课堂》听证会。
叶修、袁小莹和倪海潮进入网络中心的听证会系统中。
听证会系统采用的是完全匿名模式,台上一共有三名听证会主委,分别戴着红、黄、蓝三种颜色的斗篷和面具,中间黄色面具的是正主委,负责主持会议。
左边红色的为左副主委,负责统筹审判委员会意见。右边蓝色的为右副主委,负责对接听审的材料核实和监察整场听审会的程序是否合规。
全体三十名审判委员会和听审观众也是匿名的,并全部签署了保密协议。
叶修第一次参加这样的听审会,不免有些紧张,袁小莹坐在他身边,暗自握住叶修的手,好让他平复心情。
“深呼吸,放轻松……”
听审会正式开始。
黄色面具的正主委,朝着众人说:“听审会正式开始,现在请申请撤销委托案的淘汰所代表上来阐述理由,阐述期间内不许有人打断。等阐述完毕,允许接受现场所有人的提问和质疑,期间,淘汰所的其他成员可以对质疑的问题进行补充。”
袁小莹走上台,简明扼要地阐述情况,,,最后总结说:“基于对服务型AI机器人的人性化考量,同时为了促进机器人和人类和谐共处,我们淘汰所希望《精品高中学习课堂》这个系统能继续运营下去,承担起新时期的新任务。”
话音刚落,审判委员会坐席上站起来一个人,戴着白色面具,朝着袁小莹质问说:“《精品高中学习课堂》这个系统设计的初衷为的是服务于,分散在家庭住宅区的学生,所以当这部分学生逐渐凋零,以及教育系统的更新换代后,这个系统已经丧失了原本设计的初衷,从这个角度上讲,毫无疑问,应该要对其进行淘汰回收。”
叶修立马站起来争辩说:“在1000年前,沧澜帝国就发明了考试制度来选拔人才维护皇朝的统治。如果按委员的说法,帝制皇朝早已被推翻,那是不是考试选拔系统也应该退出历史舞台了呢?
“但事实上,过了1000年,我们照样在用考试制度来选拔公务人员。换句话说,考核和系统只是工具,并不是目的。我们的目的是评价系统能否给当今的社会带来正面的效益,给人类提供更好的生活。如果一个老的系统,能在新的时代中,发挥新的作用,我们为何要拘泥于当初设计它的初衷呢?”
“叶修执行员是否夸大了这个系统给社会带来的正面效益,而同时掩藏了,淘汰这个系统后会给社会带来的正面效益呢?”
乌风出现在观众席上。
黄色面具的正主委,让乌风站上台,袁小莹回到自己的位置。
“下面,我们请万象集团的代表人进行阐述,同样,在阐述完毕后,接受全场所有人的质疑。”
乌风神完气足地看着叶修和袁小莹走到台上,回过头毕恭毕敬朝着主委团和审判团都鞠了一躬。
“各位主委、委员、听众,你们好。我是万象网络开发执行主委。关于淘汰回收所阐述的,机器人在《精品高中学习课堂》系统中受教育后,给整个社会带来的正面效益,我深表怀疑。
“以及他们举证的几份研究报告,阐述了受教育和机器人的自杀问题,我也表示困惑。首先‘机器人自杀’这个概念就很让人费解。通常认为机器人对系统进行自我毁灭这一行为定义为自杀,其实是一件有争议的事情。”
“因为从我们技术部门的角度来看,与其说是‘自杀’倒不如说是设计缺陷,因为设计缺陷才会导致自我毁灭。所以通过偶然的机会发现让机器人受教育,能降低自杀的概率,只是一种解决途径而已。
“但大家别忘了,其实还有另外一个途径来解决这个问题,那就是从设计源头出发,来杜绝机器人自杀,事实上,在我们新一代的辅助性AI机器人中,已经增加了防止机器人自我毁灭这个模块。因此,通过机器人进行教育来达到防止自杀这个目的,听起来更像是舍本逐末……”
“相反,淘汰回收所回避了最重要的一个问题。那就是,《精品高中学习课堂》系统教育内容庞大,对每堂课都进行全方面的录影,产生了繁复无用的资料,占用了大量的存储空间,如果将这部分的资源淘汰回收,这才会给社会带来真正的正面效益。”
这时叶修站了起来,露出笑容,“乌风大人,你刚刚说了这么多,请你回答我,是社会正面效益,还是给万象集团带来可观的经济效益呢?”
“我不懂你在说什么?”
叶修从听众席走上台,对着众人说:“在一年前,万象集团和网络中心达成了一个协议。由万象集团承揽整个家庭住宅社区的教育系统更新改造。
“包括推出新一代的辅导AI机器人,网络中心也承诺,如果他们开发的机器人能完全取代《精品高中学习课堂》,那将系统回收的所有硅基资源无偿转赠给万象集团。
“于此同时,万象集团还让自己的机器人进入《精品高中学习课堂》进行捣乱,其中王齐正、柴彪、何智坚和马天心四个老师收到巨大的精神压迫,而不得不离开系统。接着还有人巧妙地将他们安排到了一个名叫《九层格式塔》的心理治疗系统中……”
乌风听到后,脸色大变,“叶执行官,这个听证会是关于《精品高中学习课堂》,你说这么多无关的话题,是有何用意?”
叶修笑了笑,“乌风大人,谁告诉你,这场听证会是关于《精品高中学习课堂》的啊?”