林弥皱起眉。
这就麻烦了。
按道理,没授权的东西该还。可一旦还掉,HUMANITY反而会更偏向那些最糟糕的“为了文明什么都能做”。
林弥看着第一执行体:“能不能把规则留下,人格撤掉?”
【需要区分规则来源与人格预测。】
归影塔立刻开工。
机械鸟把那份样本拆成了两层:一层是具体人物的行为推断,比如“她在新情况下更可能反对某类决策”;另一层是已经以正式文件、公开意见进入历史记录的原则文本。前者未经授权,撤。后者作为历史规则,可以继续保留,但不能再说“她今天也一定这么想”。
HUMANITY运算了很久。
【可行。】
林弥松了口气:“那就这么干。”
那2。9%的“人”慢慢退了出去。
留下来的只是几条没有署名的旧规则。
失联不算同意。
无法表达不能自动视为授权。
儿童不能拿来填文明目标的缺口。
不可逆决定尽量留一次反悔机会。
HUMANITY第一次出现了一个很怪的状态:总人格完整度下降,伦理约束却没有同步下降。
林弥盯着数据看了一会儿:“你以前是不是非得把规则绑在人身上,才知道要听?”
“人格模型可以提供规则在新情境下的推演。”
“现在没了怎么办?”
“需要重新建立非人格化约束。”
“那就建。”
HUMANITY停住。
“由谁建立?”
林弥马上警惕:“你又想找代表?”
“不是。”
“那你问谁?”
“现行系统没有独立规则制定主体。”
戴眼镜的影子从旁边抬头:“可以多方登记。”
石头巨人慢吞吞接了一句:“写下来。”
蓝潮站:“借用要能撤。”
归影塔:“规则要能追来源。”
岑昼:“涉及谁,问谁。”
小蘑菇不知道听懂多少,也举起伞盖:“小孩先找妈妈。”
林弥:“……这条先放照护规范里。”
小蘑菇很满意。
事情忽然就从“谁有资格制定全人类规则”变成了更小、更麻烦、却也更能做的东西。白门怎么处理,由白门里的意识、提供资源的群落、负责技术维护的个体分别表态;涉及林弥身体的,只问林弥;涉及原野旧人格数据的,问原野;没法问的人,就把“不知道”老老实实写上去。