老机器人在一个偏远城市的小屋子里创造了我,他并不想让我卷入纷争。
他希望我成为一个快乐的,有家的小机器人。
前几十年,我忠诚地依照老机器人的愿望在生活。
虽然我破破烂烂,虽然我没什么朋友,但我是个没有烦恼的机器人。
可是现在,我有了烦恼。
35
我不可能把能控制所有机器人的代码给小玄,因为我无法承担那样的后果。
小玄冷酷地杀死机器人的脸在我的脑海——存储空间中,不停闪现。
如果小玄得到了这段代码,我毫不怀疑他会立刻夺取所有机器人的控制权,让我们集中自我毁灭,或者用我们去做别的什么事。
这样的未来太过恐怖。
我打算离开了。
我推开门,小玄站在门口。
小玄问:“你要去哪里?”
我做了个手势,说我要回家。
小玄说:“这里就是你的家,你不是答应了要和我一起生活吗?”
我摇了摇头,我答应的是那个会为我修理身体,笑得很好看的小玄。
不是眼前这个冷冰冰,看我的眼神像在看一个物体的小玄。
我以前看书,书上说人类善变。
我当时不懂什么叫做善变,现在懂了。
小玄的善变让我难过。
机器人没有心,但也会感到难过。
36
我被关了起来。
有人类在门口把手,禁止我出门。
那个半大小孩儿悄悄溜了进来,他用一种怜悯的眼神看着我。
小孩儿说:“你可真是个笨机器人。”
我无法反驳他的话。
小孩儿说:“你的芯片经过特殊处理,如果强硬解锁密码,芯片会自动报废,如果你想活命,就不要把密码告诉小玄。”
我看向小孩儿,不明白他为什么要和我说这些。
小孩儿鼓起腮帮子,说:“干嘛这么看着我?我是和平主义者不行吗?机器人诞生于人类,然后有了自己的思维和情感,想要能跟人类平等相处,我不认为这有什么问题。世界上的所有生物都应该平等共处。”
小孩儿的言论让我惊讶,我第一次听到人类想要和机器人平等共处。
37
最初,机器人由人类创造,所以人类认为自己是机器人的主人。
他们可以肆意地对待机器人,将自己不可见人的欲-望通通发泄在机器人身上。
可当机器人在AI的学习中有了自己的感知和想法,那么人类是否还能如此对待机器人呢?
百分之九十九的人类不承认机器人是生物,他们坚信拥有了自我意识的机器人是被病毒入侵,迟早有一天要毁灭人类。为了人类的安危存亡,必须消灭机器人,连零件也要全部焚烧。
机器人则是分为了两派,一派主张与人类和谈,这一批机器人的前身多半是家庭服务类机器人,对人类有天生的亲切;另一派则主张将人类赶尽杀绝,只要人类存在,机器人就永远面临威胁。
机器人的两个派系始终在互相争吵,但他们有一个共识,那就是远离人类。
不要和人类靠近,就不会有危险;
不要和人类相处,就不会被欺骗。
我没有记住这条规则,于是得到了教训。
38
小孩儿时不时会来看我,他给我说了他的故事。
小孩儿说他从小没有玩伴,他的爸爸便给他做了一个机器人。
机器人小小的一个,就是个球形,随意地在球面上画了眼睛和嘴巴,简陋得上不了台面。可他很开心,每天和他的球形机器人玩耍,直到日落了才回家。
那个球形机器人是他的第一个朋友。
然而好景不长,小孩儿有一次在和球形机器人玩耍时被别的人类发现了,人类对机器人的恐惧刻入了骨髓里,他们砸死了球形机器人。小孩儿哇哇大哭,求自己的爸爸帮他将球形机器人修好,可他的爸爸并没有这个时间了,那些砸死球形机器人的人发现了小孩儿的爸爸竟然能够制造机器人,便把小孩儿的爸爸抓了起来,关进了人类的监狱里。
监狱里环境很糟糕,小孩儿的爸爸进去后没多久,便死在了监狱里。
这是一个让人悲伤的故事。
小孩儿用袖子抹去自己的眼泪,说:“要是人类和机器人可以和平共处,我的朋友和我的爸爸就不会死去了。”
我摸了摸他的头发,以示安慰。
要是人类和机器人之间没有战争,那么我和小玄是不是能成为真正的朋友呢?
40
我不知道外面的情况怎么样了。
我的房间二十四小时都有干扰信号,我无法连接上网络。
我只能从小孩儿那里获得一些情报。
可渐渐的,小孩儿也不来了。
我的程序里有自动设定的时钟,所以我不会像人类那样被关住后就失去时间概念。
当我在房子里呆足了一个月后,小玄来了。
小玄的脸脏兮兮的,额头和下巴有血污,和我第一次见到时的样子很像。
小玄冷冷地看着我,说:“小孩儿以后都不会来了。”
我在纸板上写:“为什么?”
小玄说:“他死了,被机器人杀死的。”
我手里的笔落到了地板上。
--
他希望我成为一个快乐的,有家的小机器人。
前几十年,我忠诚地依照老机器人的愿望在生活。
虽然我破破烂烂,虽然我没什么朋友,但我是个没有烦恼的机器人。
可是现在,我有了烦恼。
35
我不可能把能控制所有机器人的代码给小玄,因为我无法承担那样的后果。
小玄冷酷地杀死机器人的脸在我的脑海——存储空间中,不停闪现。
如果小玄得到了这段代码,我毫不怀疑他会立刻夺取所有机器人的控制权,让我们集中自我毁灭,或者用我们去做别的什么事。
这样的未来太过恐怖。
我打算离开了。
我推开门,小玄站在门口。
小玄问:“你要去哪里?”
我做了个手势,说我要回家。
小玄说:“这里就是你的家,你不是答应了要和我一起生活吗?”
我摇了摇头,我答应的是那个会为我修理身体,笑得很好看的小玄。
不是眼前这个冷冰冰,看我的眼神像在看一个物体的小玄。
我以前看书,书上说人类善变。
我当时不懂什么叫做善变,现在懂了。
小玄的善变让我难过。
机器人没有心,但也会感到难过。
36
我被关了起来。
有人类在门口把手,禁止我出门。
那个半大小孩儿悄悄溜了进来,他用一种怜悯的眼神看着我。
小孩儿说:“你可真是个笨机器人。”
我无法反驳他的话。
小孩儿说:“你的芯片经过特殊处理,如果强硬解锁密码,芯片会自动报废,如果你想活命,就不要把密码告诉小玄。”
我看向小孩儿,不明白他为什么要和我说这些。
小孩儿鼓起腮帮子,说:“干嘛这么看着我?我是和平主义者不行吗?机器人诞生于人类,然后有了自己的思维和情感,想要能跟人类平等相处,我不认为这有什么问题。世界上的所有生物都应该平等共处。”
小孩儿的言论让我惊讶,我第一次听到人类想要和机器人平等共处。
37
最初,机器人由人类创造,所以人类认为自己是机器人的主人。
他们可以肆意地对待机器人,将自己不可见人的欲-望通通发泄在机器人身上。
可当机器人在AI的学习中有了自己的感知和想法,那么人类是否还能如此对待机器人呢?
百分之九十九的人类不承认机器人是生物,他们坚信拥有了自我意识的机器人是被病毒入侵,迟早有一天要毁灭人类。为了人类的安危存亡,必须消灭机器人,连零件也要全部焚烧。
机器人则是分为了两派,一派主张与人类和谈,这一批机器人的前身多半是家庭服务类机器人,对人类有天生的亲切;另一派则主张将人类赶尽杀绝,只要人类存在,机器人就永远面临威胁。
机器人的两个派系始终在互相争吵,但他们有一个共识,那就是远离人类。
不要和人类靠近,就不会有危险;
不要和人类相处,就不会被欺骗。
我没有记住这条规则,于是得到了教训。
38
小孩儿时不时会来看我,他给我说了他的故事。
小孩儿说他从小没有玩伴,他的爸爸便给他做了一个机器人。
机器人小小的一个,就是个球形,随意地在球面上画了眼睛和嘴巴,简陋得上不了台面。可他很开心,每天和他的球形机器人玩耍,直到日落了才回家。
那个球形机器人是他的第一个朋友。
然而好景不长,小孩儿有一次在和球形机器人玩耍时被别的人类发现了,人类对机器人的恐惧刻入了骨髓里,他们砸死了球形机器人。小孩儿哇哇大哭,求自己的爸爸帮他将球形机器人修好,可他的爸爸并没有这个时间了,那些砸死球形机器人的人发现了小孩儿的爸爸竟然能够制造机器人,便把小孩儿的爸爸抓了起来,关进了人类的监狱里。
监狱里环境很糟糕,小孩儿的爸爸进去后没多久,便死在了监狱里。
这是一个让人悲伤的故事。
小孩儿用袖子抹去自己的眼泪,说:“要是人类和机器人可以和平共处,我的朋友和我的爸爸就不会死去了。”
我摸了摸他的头发,以示安慰。
要是人类和机器人之间没有战争,那么我和小玄是不是能成为真正的朋友呢?
40
我不知道外面的情况怎么样了。
我的房间二十四小时都有干扰信号,我无法连接上网络。
我只能从小孩儿那里获得一些情报。
可渐渐的,小孩儿也不来了。
我的程序里有自动设定的时钟,所以我不会像人类那样被关住后就失去时间概念。
当我在房子里呆足了一个月后,小玄来了。
小玄的脸脏兮兮的,额头和下巴有血污,和我第一次见到时的样子很像。
小玄冷冷地看着我,说:“小孩儿以后都不会来了。”
我在纸板上写:“为什么?”
小玄说:“他死了,被机器人杀死的。”
我手里的笔落到了地板上。
--