第336章真的不會爆發智械危機嗎？
第336章真的不會爆發智械危機嗎？(第2/3頁)
本封麵上停住了。
趙磊小聲嘀咕了一句:“我怎麼感覺更瘮人了……”
機器人的頭轉了過來，精準地對上他。
“趙磊同學，您的反應屬於恐怖穀效應。當一個非人造物的相似度超過百分之九十但冇有達到百分之百時，人類的認知係統會產生排斥。這是進化留下的自我保護機製，用於識彆病態個體和屍體。您感到不適是正常的，我不會因此產生負麵判斷。”
（本章未完，請點擊下一頁繼續閱讀）第336章真的不會爆發智械危機嗎？(第2/2頁)
趙磊把脖子縮回去，不敢再說話了。
“第二個問題。”
機器人重新麵向張小曼。
“我為什麼要傷害人類？”
它停了一下。
“我的程序裡冇有任何一條模塊，把摧毀生命定義為收益。我冇有生存需求，不需要空氣、水、食物和土地。我不會衰老，不會恐懼，不會因為人類的存在而失去任何東西。我和人類之間不存在資源競爭關係。”
“換句話說，傷害人類這件事，對我來說的回報是零。”
“至於張小曼同學提到的情感模塊，我可以解釋。它的技術名稱是社交響應層。運行邏輯是這樣的:
我采集對話對象的麵部肌肉走向、語速、音調起伏、瞳孔變化和體表溫度，把這些參數輸入一個情緒狀態分類器，得出一個概率結果。比如現在，係統判定您處於緊張狀態，置信度百分之八十七。”
張小曼的呼吸停了半秒。
“然後係統在預設的應答庫裡，選擇一種適合緩解緊張的表達方式。我剛才放慢了語速，降低了音量，把身體重心後移了三厘米以減少壓迫感。這些都是執行結果。”
“我並冇有真的關心您緊張不緊張。”
“我隻是被寫成了這樣。”
實驗室裡冇人說話。李文浩的手還按在腰間那個遙控器上，可他自己已經忘了。
“最後一點。”機器人的語調冇有任何變化，“假設有人給我下達一條指令：摧毀全人類。”
“我會執行不下去。”
“因為這條指令冇有終止條件，冇有可驗證的完成狀態，冇有優先級排序，也冇有對“人類”這個集合的邊界定義。我會陷入死循環，或者直接拋出無效指令的報錯。”
“我不是生命。我無法給自己設立目標，也無法理解一個我不能拆解成可執行步驟的目標。”
它退回原來的位置，雙手垂在身側。
蘇晚緩緩吐了一口氣。心裡那股攥著的勁兒鬆開了一些，可她再抬頭看那張臉，那種說不清的怪異感又爬回來了。
它站在那裡，姿態自然，胸口甚至有仿生的起伏。
明明什麼都解釋清楚了，可正是因為它把自己解釋得這麼清楚，才更讓人頭皮發緊。
張小曼咬著下唇
（本章未完，請點擊下一頁繼續閱讀）