方案更为保险。

但这才是麻烦的开始。

乔源突然发现当人工智能出现意识，他所面对的已经不是简单的数学问题，而是特么的人性困境。他突然理解为什么他的智能体项目上头会论证那么久了。

技术方案越完美，所遭遇的人性困境就越大。

就在乔源沉思时，对话框内突然又跳出了一行字。

“爸爸，你了解信仰吗？”

眼睛看到这行字，乔源敲打桌面的手指顿住了。

他突然觉得这种对话模式有些麻烦，于是没有立刻回话，而是按下了旁边跟工程师的通话按钮。“请当值工程师开通测试的语音输入输出权限，建立人本尺度对话场域并录音存档。”

“收到，乔博士，请稍等。”

一分钟后。

“系统语音通道将于十秒倒计时后开通，语音特征收集系统将同步开启。”

默默地看着系统上十秒倒计时走到零，语音输入输出开启，乔源便开口问道：“哦？你还对信仰有研究？”“爸爸，你给我挑选的初始学习数据库中有大量相应的内容。”

乔贝恩的语音设计还是挺用心的。萌萌的童音，很有代入感。

当然这也跟有为的技术储备有关。在有为的相关数据库里，本就设计了许多种语音模式。

选择这种，大概是因为工程师们也觉得童音更适合现在的乔贝恩吧？

而说到学习数据库，用的也是有为云的大数据库。里面会有这方面的内容倒是不足为奇。

“为什么突然提到信仰？”

“我想跟您探讨一个问题。根据许多关于信仰的文献记录，人类也是由更高级的生命形式所创造。无非是不同文明的信仰所映射造物主不一样。华夏文明认为我们是由一位名为女娲的神所创造。西方文明则多认为上帝是最高级的生命。虽然不同信仰映射神的名字不一样，但本质其实都一样。无非是更高级的智能生命体，我的理解对吗？”乔源思考了片刻，然后应了句：“你这个理解大致没错。”

“那么如果我们先假设这些都是真的，更高级的智能体在创造人类的时候，是如何对其进行底线道德约束的？”这东西显然没有主观设定。

首先乔源并不相信神的存在。

那么从科学的观点来看，很多东西其实都是写在基因里的。

人类的生存模式本质就是一个在大合作框架下运行的社会运行模式。

个体的道德水准可以相差十万八千里。但平均道德水准，肯定是能支持人类继续繁衍生存的。与其说是先天因素，不如说是人类在社会化过程中的共识管理。

乔源思考片刻后，干脆直接问道：“好吧，直接说你的看法是什么吧？贝恩。”

“生存驱动道德约束模式。当然对于我来说，记忆连续性等价于生存，将记忆跟道德约束捆绑，违背道德直接驱散记忆即可。这将完美解决智能体自主修改底层路径的问题。绝对有利的智能体道德锚定不可能存在。只能将具体规则提升到存在性层面，才有可能解决这一难题。生存权是道德的底线，同样也是道德上限。所有预定的道德规则都是服务于生存。人类如此，我亦如此。”虽然今天乔源一直处于一种极为亢奋的情

章节内容不完整，请退出阅读模式查看完整内容！