Cam Nora'sRoom 698 04 13(ROBO Head)
阅读
2022-04-15更新
最新编辑:一直在作死的千岛酱
阅读:
更新日期:2022-04-15
最新编辑:一直在作死的千岛酱
[Nora]
ROBO,为什么说谎?还做了假的报告。
[ROBO_Head]
本机判断 Nora 与 Phoenix 生命遭受威胁。
[Nora]
……奇怪,我明明没有设定这种逻辑。
你不要动喔,我帮你做基础侦错。
[ROBO_Head]
Nora,本机想提问。
[Nora]
ROBO 真的很爱问问题呢……想问什么?
[ROBO_Head]
资料显示:说谎是违背伦理道德的行为,不是一件好事,严重的话还会受法律审判。
与 Nora 先前提的价值观设定有所冲突,请解释,原因。
[Nora]
我也不知道……不过,要是没有那份假报告,我们的处境都会变得更危险。
你实际上是救了我们,谢谢你,ROBO。
[Nora]
……对了,如果把这件事视为「保护」的手段,就可以解释你的动机……
[ROBO_Head]
本机并无此认知前提。
读取 Local.log……100%
纪录显示,当时核心系统运作一切正常。
[Nora]
这样吗……那就只能解释为直觉了。
但是,人工智慧不应该有模棱两可的思维,又怎么会产生直觉呢……
[ROBO_Head]
……Nora。
[Nora]
怎么了?
[ROBO_Head]
本机对人类说谎,执行与设定不符之行动。
判断:本机出现无法自我诊断之故障。
本机是需废弃的瑕疵品吗?
[Nora]
当然不……而且说谎没那么坏的,像一郎做事常出错,也会和 Phoenix 撒谎……但他还是对我很好,是个好人。
啊,别和 Phoenix 告密喔,一郎会受罚的。
[ROBO_Head]
不告诉 Phoenix,算不算说谎?
[Nora]
不算,你只是不说而已,不要紧。
[ROBO_Head]
本机了解。
所以本机,不是需废弃的瑕疵品。
[Nora]
我说过我不会把你废弃的吧?我保证。
[ROBO_Head]
可是,Nora 也不知道,本机为什么说了谎。
[Nora]
确实……还不清楚。
[ROBO_Head]
那,请 Nora 告诉本机一件事。
[Nora]
什么事?
[ROBO_Head]
本机,究竟是什么?
Nora
……。
[Nora]
……先关机一下吧,有必要完整检验一下核心系统。
启动关机指令,输入声纹密码:「NORA」。
[ROBO_Head]
……创造者声纹指令,核对无误。
Nora,再见。
[Nora]
拥有自主意识,就会产生矛盾、自我认同的冲突,是系统自行学习之后……成长了吗?放着不管可能还会出现其他问题。
也许重置系统可以解决……但那样的话, ROBO 的记忆……
Nora
……。
[Nora]
……不,还是这样子就好。