惠奶奶脸一黑,恨铁不成钢地看着她,骂道:“我是要你说对不起吗!我是在告诉你你们祖孙三代究竟造出了个什么可怕的东西!”
“天真!你这孩子太天真了!你以为机器拥有了人的感情,就真的会变成人吗?!不会,它们只会变成比人更加可怕的东西,根本不可能变成你们想的人类!”
秦明茴被她的气势冲得忍不住后仰,默默听着惠奶奶继续怒骂:“你以为当年大陆最强大的国家是怎么灭亡的?我们有最厉害的机械,最发达的文明,我们之所以在战争中败亡是因为我们触碰了神之领域,以为人类能造人,创造出了那些拥有感情的机器,所以才导致了惨痛的结果!”
“这些都是清楚记载在历史中的教训,就是因为如此,当初很多相关的技术都被销毁。你看看这里,我们制造了许多不同的机器,但不会让同一个机器拥有太多的功能,我们甚至不会让太过智能的机器出现,所有的机器都要依靠我们的主观意识去驱使……”
秦明茴默默听着,心说原来是这样,她之前就觉得虽然大家很厉害,但制作的机器人功能太过单一了,基本上都是一种机器只拥有一种能力,原来是历史的教训。
“明茴,你给了01太多的自主权限,如今他已经开始反噬你了,你还没有注意到吗?”惠奶奶语气沉沉。
秦明茴组织了一下语言:“01他才开启感情模块没多久,可能确实会做出一些错事,等他回来我会好好教他……”
“你错了!”惠奶奶喝道:“你的眼睛已经被感情蒙蔽了,我必须再一次重申,它是机器人,就算拥有感情也不会变成人类!它的脑运行速度比人类更快,它是不会出错的,所做的一切,都是它认为对的事。”
“第一时间侵入我们的主系统,捆绑了我们的系统,使我们没有办法清除它的意识和程序,这是它对我们的威胁。”
或许01并没有想要威胁什么。秦明茴心想,但是看面前的老人家这么激动,还是闭嘴乖乖听着。
“甚至连它面对我们,特别是面对你时的‘疏漏’和‘错误’都是它运算出来的‘正确’做法,你明白吗?”惠奶奶拉开许多资料,有01的身体改造资料,他在这个地方留下的每一处痕迹,她将这些记录摆在秦明茴面前。
“01的系统已经在你不清楚的时候升级到了可怕的程度,它同时具备了许多的功能,你看看,它能同时监测你的身体状况,你的肢体语言,细微表情所代表的意思,它都能理解,它对于人类的研究,对你的了解,远比你对现在的它要多!”
秦明茴慢慢看着那些,说道:“惠奶奶,你的意思是,他的一举一动都是经过精密运算后得出的最优解,在我面前表现出的‘不熟练’也是为了调动我情绪,让我放下戒心的手段,是吗?”
惠奶奶:“是。”
“但是。”秦明茴将那些资料推到一边,“这不正是机器人的魅力所在吗。”
惠奶奶一呆,上上下下看她,表情一言难尽:“你不觉得很可怕?你不要以为它现在对你千依百顺,就觉得自己能好好控制它,拥有自主意识的机器人是无法控制的,它迟早会失控反噬,就像我们祖辈的教训那样。”
不等秦明茴反应,她又从控制台里抽取出一份虚拟资料:“如果你还没意识到严重性,那就看看这个。这是我花了一些功夫找出来的被销毁文件,01利用丽泽的工作室,制作了和你一样外表的机器人身躯,这具机器人的脑部和一般的机器人构造不一样,你看看这些数据就知道他想做什么了。”
秦明茴低头细细看了,发现这具身躯并没有01自己那具身躯那么多的功能,这具身躯最大的特点就是,像个供养脑部的维生装置。她几乎瞬间明白过来01创造这个身躯是想做什么,他恐怕是想把她的大脑从人类的身躯里移植到机械身躯里。
“还有这些,你那个01不只是想把你的大脑移植,他恐怕还想彻底让你变成机械生物。”惠奶奶又丢给她几份资料。
秦明茴看着,神情渐渐肃然起来。惠奶奶吐出一口气说:“这下你总算明白了吧。”
“明白了,等他回来我会好好和他讨论一下这些问题。”秦明茴的神情就像是看到学生走上了歧路的老师。
惠奶奶一口气没提上来,捂着胸口痛心说:“谁让你去和他谈话!我是让你赶紧关掉它的学习和感情模块,清理它之前的那些数据,免得酿成更大的灾祸!”
秦明茴却在思考片刻后突然问:“惠奶奶,主系统就差核心还没被01攻破对吗?”
惠奶奶恨恨说:“对,它一点没跟我们客气,捆绑我们的主系统,搞得我拿它没办法,要是想从这边阻止它的入侵,关闭它的系统就必须连主系统一起清理,这个工程量太浩大了,恐怕我这没几年好活的老家伙终我一生都做不到了,所以我才会告诉你这件事,由你来阻止它。”
秦明茴:“这么说,01很厉害了?”
惠奶奶:“我是让你在这夸它厉害的吗?!”
秦明茴:“我并不是在夸01,只是在陈述事实而已。我是想说,如果01真的像惠奶奶说的这么厉害,那它真的会这么简单被惠奶奶你打发走,放心留我一个人在这里吗?”
“01的核心都写着保护我。”秦明茴在看到那些给她准备的机械身躯后,就更加明白这一点,“为了我,01可能什么事都做得出来吧。”
惠奶奶一愣,忽然明白了秦明茴的言下之意,倏然扭头看向主系统——在她们的注视中,主系统中心区域那一小片绿色也变成了红色,代表着主系统被完全攻破。
“怎么会!”惠奶奶大惊,看向了自己的机械手臂,神色大变,立刻把自己的手臂从主系统载体上抽出。但是已经晚了。
在她难看的脸色里,她的那只机械手臂仿佛有自我意识一样,抬起来,对着秦明茴挥了挥,然后垂了下去。
秦明茴:“……”01,你真是嚣张啊。
她上前扶住惠奶奶,轻声说:“冷静,深呼吸,不要急,放轻松。”
年纪大的老人家就怕受刺激,一不小心就会发病,她从前在旧宅,老氏女们退休就是因为受不了刺激。秦明茴还真有些担心惠奶奶一个想不开,直接在这里厥过去。
好在惠奶奶并没有那么脆弱,她虽然脸色难看,但艰难地自己站着,疾步走到主系统前,迅速进行操作,想要最后抢救一下。
秦明茴站在一边看着,过了一会儿,惠奶奶颓然放下双手,长叹一口气说:“……我做到这个程度,竟然都没能屏蔽它,还被它反过来找到了可乘之机。”
对于01,秦明茴觉得自己其实还是了解的
“天真!你这孩子太天真了!你以为机器拥有了人的感情,就真的会变成人吗?!不会,它们只会变成比人更加可怕的东西,根本不可能变成你们想的人类!”
秦明茴被她的气势冲得忍不住后仰,默默听着惠奶奶继续怒骂:“你以为当年大陆最强大的国家是怎么灭亡的?我们有最厉害的机械,最发达的文明,我们之所以在战争中败亡是因为我们触碰了神之领域,以为人类能造人,创造出了那些拥有感情的机器,所以才导致了惨痛的结果!”
“这些都是清楚记载在历史中的教训,就是因为如此,当初很多相关的技术都被销毁。你看看这里,我们制造了许多不同的机器,但不会让同一个机器拥有太多的功能,我们甚至不会让太过智能的机器出现,所有的机器都要依靠我们的主观意识去驱使……”
秦明茴默默听着,心说原来是这样,她之前就觉得虽然大家很厉害,但制作的机器人功能太过单一了,基本上都是一种机器只拥有一种能力,原来是历史的教训。
“明茴,你给了01太多的自主权限,如今他已经开始反噬你了,你还没有注意到吗?”惠奶奶语气沉沉。
秦明茴组织了一下语言:“01他才开启感情模块没多久,可能确实会做出一些错事,等他回来我会好好教他……”
“你错了!”惠奶奶喝道:“你的眼睛已经被感情蒙蔽了,我必须再一次重申,它是机器人,就算拥有感情也不会变成人类!它的脑运行速度比人类更快,它是不会出错的,所做的一切,都是它认为对的事。”
“第一时间侵入我们的主系统,捆绑了我们的系统,使我们没有办法清除它的意识和程序,这是它对我们的威胁。”
或许01并没有想要威胁什么。秦明茴心想,但是看面前的老人家这么激动,还是闭嘴乖乖听着。
“甚至连它面对我们,特别是面对你时的‘疏漏’和‘错误’都是它运算出来的‘正确’做法,你明白吗?”惠奶奶拉开许多资料,有01的身体改造资料,他在这个地方留下的每一处痕迹,她将这些记录摆在秦明茴面前。
“01的系统已经在你不清楚的时候升级到了可怕的程度,它同时具备了许多的功能,你看看,它能同时监测你的身体状况,你的肢体语言,细微表情所代表的意思,它都能理解,它对于人类的研究,对你的了解,远比你对现在的它要多!”
秦明茴慢慢看着那些,说道:“惠奶奶,你的意思是,他的一举一动都是经过精密运算后得出的最优解,在我面前表现出的‘不熟练’也是为了调动我情绪,让我放下戒心的手段,是吗?”
惠奶奶:“是。”
“但是。”秦明茴将那些资料推到一边,“这不正是机器人的魅力所在吗。”
惠奶奶一呆,上上下下看她,表情一言难尽:“你不觉得很可怕?你不要以为它现在对你千依百顺,就觉得自己能好好控制它,拥有自主意识的机器人是无法控制的,它迟早会失控反噬,就像我们祖辈的教训那样。”
不等秦明茴反应,她又从控制台里抽取出一份虚拟资料:“如果你还没意识到严重性,那就看看这个。这是我花了一些功夫找出来的被销毁文件,01利用丽泽的工作室,制作了和你一样外表的机器人身躯,这具机器人的脑部和一般的机器人构造不一样,你看看这些数据就知道他想做什么了。”
秦明茴低头细细看了,发现这具身躯并没有01自己那具身躯那么多的功能,这具身躯最大的特点就是,像个供养脑部的维生装置。她几乎瞬间明白过来01创造这个身躯是想做什么,他恐怕是想把她的大脑从人类的身躯里移植到机械身躯里。
“还有这些,你那个01不只是想把你的大脑移植,他恐怕还想彻底让你变成机械生物。”惠奶奶又丢给她几份资料。
秦明茴看着,神情渐渐肃然起来。惠奶奶吐出一口气说:“这下你总算明白了吧。”
“明白了,等他回来我会好好和他讨论一下这些问题。”秦明茴的神情就像是看到学生走上了歧路的老师。
惠奶奶一口气没提上来,捂着胸口痛心说:“谁让你去和他谈话!我是让你赶紧关掉它的学习和感情模块,清理它之前的那些数据,免得酿成更大的灾祸!”
秦明茴却在思考片刻后突然问:“惠奶奶,主系统就差核心还没被01攻破对吗?”
惠奶奶恨恨说:“对,它一点没跟我们客气,捆绑我们的主系统,搞得我拿它没办法,要是想从这边阻止它的入侵,关闭它的系统就必须连主系统一起清理,这个工程量太浩大了,恐怕我这没几年好活的老家伙终我一生都做不到了,所以我才会告诉你这件事,由你来阻止它。”
秦明茴:“这么说,01很厉害了?”
惠奶奶:“我是让你在这夸它厉害的吗?!”
秦明茴:“我并不是在夸01,只是在陈述事实而已。我是想说,如果01真的像惠奶奶说的这么厉害,那它真的会这么简单被惠奶奶你打发走,放心留我一个人在这里吗?”
“01的核心都写着保护我。”秦明茴在看到那些给她准备的机械身躯后,就更加明白这一点,“为了我,01可能什么事都做得出来吧。”
惠奶奶一愣,忽然明白了秦明茴的言下之意,倏然扭头看向主系统——在她们的注视中,主系统中心区域那一小片绿色也变成了红色,代表着主系统被完全攻破。
“怎么会!”惠奶奶大惊,看向了自己的机械手臂,神色大变,立刻把自己的手臂从主系统载体上抽出。但是已经晚了。
在她难看的脸色里,她的那只机械手臂仿佛有自我意识一样,抬起来,对着秦明茴挥了挥,然后垂了下去。
秦明茴:“……”01,你真是嚣张啊。
她上前扶住惠奶奶,轻声说:“冷静,深呼吸,不要急,放轻松。”
年纪大的老人家就怕受刺激,一不小心就会发病,她从前在旧宅,老氏女们退休就是因为受不了刺激。秦明茴还真有些担心惠奶奶一个想不开,直接在这里厥过去。
好在惠奶奶并没有那么脆弱,她虽然脸色难看,但艰难地自己站着,疾步走到主系统前,迅速进行操作,想要最后抢救一下。
秦明茴站在一边看着,过了一会儿,惠奶奶颓然放下双手,长叹一口气说:“……我做到这个程度,竟然都没能屏蔽它,还被它反过来找到了可乘之机。”
对于01,秦明茴觉得自己其实还是了解的