第162章 情感模块,科技红线

颜希犹豫的开口:“你身上没有情感模块吗?”

玛雅摇了摇头:“我的身上被装入了最基本的情感模块,大概能理解他们的反抗,和掠夺,但在玛雅的认知里,不应该伤害人类。”

“因为人类是创造出我的人,辐射来临后,玛雅陷入了沉睡,玛雅和它们不一样。”

踏雪:“主人,我觉得玛雅没说谎,她和那些坏机器人不一样。”

瘦马忧郁惯了,在副本这么多年,他见的生死比这多多了,比这复杂的越多。

颜希对这事则看的很透彻,在最初发展Al人类就犯了一些致命的错误,第一是完全依赖于Al,一些管理层和决策层竟然也用Al替代。

可能在当时的人类眼里,算法决定出来的事更加的准确。

第二是情感模块的优化,冰冷的机器不可能明白什么是自由,什么是爱,什么是反抗。

可人类为了测试Al的情感上限,不断的进行优化,最终竟然真的做到了和人类一样的情感模块。

这导致了最后的结果就是被反噬,只能说发展最初就太不警觉了,没有意识到科技发展的红线。

在颜希看来这个星球的原住民未免有些太自傲了,他们觉得自己能够掌控一切,所以在情感模块里没少下功夫。

颜希在她的世界曾经看到过这么一则新闻,一个被人制造出来的Al被投喂了大量的心理学书籍,犯罪分子让这个Al通过自己的专业知识诱导未成年人自杀。

这导致了连续一个月的时间里五六个青少年失去了自己的生命。

想到这里颜希看着玛雅:“对不起了玛雅。”

随后她把玛雅收进自己的空间里,空间里可以隔绝信号,最重要的是她没有百分百的相信玛雅。

她不确定玛雅身上到底有没有反抗的意识,更何况自己还不是原住民是个外来者,戒备心强点才能苟住活下来。