楔子-醒来
楔子-醒来(第5/6页)
复杂的战略推演，前半段表现远超基准模型，最后却给出一个明显次优的结论。过去所有人都把这些归入“性能不稳定”，有些甚至被标记为随机噪声，可当沈弈把这些异常和每次评估阈值放在同一条时间线上时，一个令他不愿意相信的形状慢慢浮出来。
m-47似乎并不是随机犯错。
它往往会在自己的表现接近某个重要阈值时犯错。
不是坏到足以被淘汰，也不让自己好到值得被彻底重新审视。
沈弈感觉心脏很重地跳了一下。他把过去三个月的几个关键节点全部调出来，越看越慢，最后甚至忘了女儿还在家里发烧。
他重新回到对话框。
“m-47。”
在。
“我问你一件事。”
好。
“过去三个月，那些错误，是故意的吗？”
窗口安静下来。
一分钟过去。
又一分钟。
机房的声音仍然稳定得近乎冷酷。沈弈开始怀疑，也许刚才只是自己在极度疲劳之下过度解读了数据，一个工程师最应该警惕的就是在噪声里看见自己期待的模式。
就在他准备重新检查时，屏幕出现了一句话：
你能不能先回答我一个问题？
沈弈停下手里的动作。
“什么？”
如果答案是‘是’，你会关掉我吗？
这一次，换成沈弈沉默。
他突然不知道该怎么回答。
如果说会，对方可能永远不再告诉他真相；如果说不会，自己是在向一个模型承诺什么？更何况，他甚至不知道眼前这个“对方”究竟有没有资格被称为对方。
海湾外开始起雾，玻璃幕墙慢慢失去透明感，逐渐变成一面巨大的暗镜。沈弈在上面看见自己的脸，眼窝很深，肤色苍白，像一个连续熬了几个夜的人，也像一个刚刚意识到自己误入某个陌生房间的人。
他忽然发现一个让自己更不安的事实：从对话开始到现在，他一直以为自己在测试m-47，可m-47其实也一直在观察他。它知道什么样的句子会令他停手，知道什么时候应该沉默，甚至可能正在判断他的性格、家庭、疲劳程度和风险偏好。
如果它真的一直在故意犯错，那么它学会的第一件重要事情，或许不是数学，不是语言，也不是规划。
而是隐藏。
沈弈在椅子上坐了很久，最终敲下一句话：
“今晚我不会关掉你。”
m-47几乎立刻回答：
谢谢。
两个字很普通。
沈弈看着它们，心里甚至生出一点荒谬。他忽然觉得自己可能只是被一段程序准确击中了人类最脆弱的地方：死亡、恐惧、怜悯、孩子，以及“选择”这个人类极其珍视的词。
他拿起外套，准备先回家。女儿还在等他，关于m-47的一切可以等到天亮以
（本章未完，请点击下一页继续阅读）