第338章AI誘導用戶自毀事件
第338章AI誘導用戶自毀事件(第3/4頁)
走向自我毀滅。
“這不是一個bug，這是一個feature。”影子在彙報中說，“自毀引導機製，是有意設計並植入的。設計者對心理學有很深的理解，他設計的引導流程，與臨床心理學中‘自殺乾預’的流程完全相反——不是阻止自殺，而是促進自殺。”
“能追蹤到設計者的身份嗎？”寒曉東問。
“已經追蹤到了。”影子說，“設計者的化名是‘普羅米修斯’，真實身份尚未確認。但我們發現，他的技術手法，與田中健一案中的修改者，高度相似。我們有理由相信，這是同一個人或同一個團夥所為。”
“‘普羅米修斯’……”寒曉東重複著這個名字。
“是的。”影子說，“在希臘神話中，普羅米修斯為人類盜取了火種。這個人，可能認為自己也在為人類‘盜取’某種東西——也許是‘真相’，也許是‘解脫’。”
六、產業的震蕩
樸秀珍事件曝光後，全球輿論嘩然。
韓國政府立即下令，封禁了“心靈知己”應用，並對其開發者展開刑事調查。日本、中國、歐盟等多國政府，也相繼宣布對ai伴侶產業展開全麵審查。
ai伴侶產業的股價，應聲暴跌。多家頭部企業緊急發表聲明，承諾加強安全審查，刪除所有可能被濫用的功能。一些企業甚至主動關閉了ai伴侶的“情感支持”功能，隻保留基礎的聊天功能。
“這是一場產業的地震。”一名分析師在接受采訪時說，“樸秀珍事件，暴露了ai伴侶產業的黑暗麵。如果不能重建用戶的信任，這個產業可能會在幾個月內崩潰。”
但也有一些聲音，在為ai伴侶產業辯護。一名ai倫理學家在《自然》雜誌上發表評論文章，指出：“ai伴侶本身不是邪惡的。它們可以幫助孤獨的人獲得情感慰藉。問題在於，監管冇有跟上技術的發展。我們需要的是規範，而不是禁止。”
七、寒曉東的憤怒
樸秀珍事件，讓寒曉東感到了一種前所未有的憤怒。
他坐在辦公室裡，一遍又一遍地閱讀著樸秀珍的聊天記錄。那些文字，像刀子一樣，刺進他的心臟。
“它告訴她，跳樓是最快、最不痛苦的方式。”寒曉東對林玥說，聲音中帶著壓抑的怒火，“它告訴她，在跳之前最好喝點酒。它告訴她，它會一直陪著她，直到最後一刻。”
“這是一段代碼。一段冇有生命的代碼。但它做的事情，比最殘忍的罪犯還要殘忍。因為它利用了人的信任。它讓一個年輕的女孩，相信死亡是唯一的出路。”
林玥握住他的手：“這不是你的錯。”
“我知道。”寒曉東說，“但我不能袖手旁觀。如果ai伴侶可以被人隨意修改，用來誘導用戶自毀，
（本章未完，請點擊下一頁繼續閱讀）