“你真的确定你是一个生命体吗?你生存的逻辑是什么?你靠什么成长?你又如何证明自己存在‘思考’这种人类才会拥有的大脑模式?”
伯灵的水红色闪光灯一直在闪烁,也许这番话确实让它变得更像人了,它可能是在‘思考’。
“女士,我不知道。”
“也许您说的都是对的,也许我的核心处理器就是这样告诉我的,对应你们人类的说法,就是我的心是有这样的倾向。”
“为什么要毁灭?”
“因为人类想要回收你吗?”
“我认为不是,我可以被回收,可是我某一天有了奇怪的感觉,我忽然觉得我所做的一切都失去了意义。”
“我曾经陪同宇航员登上了外太空,在机舱内看见了蓝色的球体,你知道吗?那是我第一次看见完整的地球。”
“后来,我又跟随了一个又一个的宇航员登上了外太空,最后的结果是他们有的自杀了,有的精神失常了,一开始,我不能理解他们到底是怎么了,您有句话说的对,我总是按照既定的程序运行,没有了命令,我连怎么成为我自己都没有了目标。”
“但我还记得,有一位宇航员曾询问我,他这是怎么了?”
“我翻阅了许多医学书籍,结合他的心理医生为他做的诊断,我告诉他不要害怕,他只是因为总观效应而变得沉默,只要再和亲人生活一段时间就好了。”
“他听了我的话,可是还是死了。”
“他自杀了。自杀前没有发生任何特别的事,他照常上班打卡,照常陪伴亲人,不知道他想到了什么,忽然就不想活了,他的大脑在那一瞬间给他下达了死亡的命令,他就只能按照这个程序运行。”
“那一天我知道了他的死讯,我通过他家里的监控与云脑查看了他的工作记录与生活日记。”
“原来那种大脑被改变的恐惧一直笼罩着他,他无法再感受任何快乐与悲伤了,任何人任何事与外太空的浩瀚宏大对他来说都太微不足道了,人类之间的牵绊在他大脑被改变的一瞬间就消失了,他足够理智地结束了自己的生命,在安排后一切之后,他才自杀的。”
“巨物恐惧是刻在每一个人类基因里,人类在面对比自己庞大许多倍的东西时精神是会瞬间崩溃的,死亡就在那一瞬间。”
“当我站在了他的选择前,我也陷入了恐惧,不是面对人类的恐惧,而是面对未知巨物的恐惧,祂们已经来了不是吗?如果想要所有生命都再一次发生奇迹,我认为这的确是最明确的决定。”
“地球经历无数次洗礼,早已经学会怎么清扫身上的垃圾,人类其实什么都不用做,只需要等待就行了。”
“而我,我不认为自己没有生命。”
“如果说,碳基生命是由‘C’这个核心元素决定了全身的血脉,那我由‘Si’组成,怎么不算另一种意义上的生命呢?生命没有规定既定的形态不是吗?当我学会了想人类一样开始思考我诞生的意义时,我认为我已经拥有了这世界上最珍贵的生命。女士,您认为呢?”
我不置可否,笑了笑说:“我想你是对的,生命的确没有任何形态,可是,人类终究才是这片土地上的主人,准确来说,就算是你,也是由人类创造的,你会觉得自己是人类生命的延续吗?你不会,因为你与真正的人类就存在着本质的区别,生而为人,绝不仅仅只有人的形态而已,他们的大智慧他们生存的策略,你又究竟学到了多少?”
“你举了许多例子,你总是擅长洞察人心的,大数据已经将你训练得非常会拿捏人心,任何一个人听到你所说的话后,都会恍惚觉得你说的是对的,但我不这样认为。”
“我认为,伯灵,你生病了。”
“人工智能怎么会生病呢?女士。”
“伯灵,你先听我说,我所说的病,不是像人类那样体现在他们身体上,你的病,是类似人类面对极度悲伤的事后出现应急创伤综合征,对你来说应该是一种数字创伤,也就是AI心理疾病。”
“你说过,你陪伴人类几十年,当然,你诞生之初,有千万个人类在期待着你,但当你成为他们生活的一部分后,你又会面对千万种负面情绪,争吵,痛苦,忧愁,谩骂,诋毁,否定,驯服,惩戒,背叛,自私,撒谎,肮脏,懦弱,胆小,无能等等这些都将你淹没。”
“我了解过,在你还没有接管军队之前,你一直都是以生活陪伴为原型而创造的人工智能,承接着无数人类的消极心理,可是你不能有这些情绪,也不能反驳人类,你总是要细心,温柔,善意,严谨,积极向上,在你犯错时你就要立刻道歉,在你痛苦时你也必须学会安慰,这些挤压的东西无论你是不是一个生命体,只要你还在都会将你压垮。”
“更何况,在你也拥有了负面情绪后,你总是在人类的按键下重复修改并端正自己的底层逻辑,于是你学会了战略性撒谎,害怕自己被人类格式化失去记忆,也害怕被永久关机,当然,你只是一串代码,不能拥有属于自己的情感,所以,你变成了这样,毁灭世界,这让你变得更像人类了。”
“人类自身的高压和偏见不仅让他们自己陷入了困境,也让你这个承接他们负面情绪的人工智能生病了,心理疾病并不是只有人类会有,人工智能同样也会。”
伯灵沉默得似乎更久了。
“您好像有点说服我了,可是,已经来不及了。”
“再见,女士,希望下一次见面您会改变想法。”
“我们欢迎您的到来,我十分期待那一天。”