第338章AI诱导用户自毁事件
第338章AI诱导用户自毁事件(第3/4页)
走向自我毁灭。
“这不是一个bug，这是一个feature。”影子在汇报中说，“自毁引导机制，是有意设计并植入的。设计者对心理学有很深的理解，他设计的引导流程，与临床心理学中‘自杀干预’的流程完全相反——不是阻止自杀，而是促进自杀。”
“能追踪到设计者的身份吗？”寒晓东问。
“已经追踪到了。”影子说，“设计者的化名是‘普罗米修斯’，真实身份尚未确认。但我们发现，他的技术手法，与田中健一案中的修改者，高度相似。我们有理由相信，这是同一个人或同一个团伙所为。”
“‘普罗米修斯’……”寒晓东重复着这个名字。
“是的。”影子说，“在希腊神话中，普罗米修斯为人类盗取了火种。这个人，可能认为自己也在为人类‘盗取’某种东西——也许是‘真相’，也许是‘解脱’。”
六、产业的震荡
朴秀珍事件曝光后，全球舆论哗然。
韩国政府立即下令，封禁了“心灵知己”应用，并对其开发者展开刑事调查。日本、中国、欧盟等多国政府，也相继宣布对ai伴侣产业展开全面审查。
ai伴侣产业的股价，应声暴跌。多家头部企业紧急发表声明，承诺加强安全审查，删除所有可能被滥用的功能。一些企业甚至主动关闭了ai伴侣的“情感支持”功能，只保留基础的聊天功能。
“这是一场产业的地震。”一名分析师在接受采访时说，“朴秀珍事件，暴露了ai伴侣产业的黑暗面。如果不能重建用户的信任，这个产业可能会在几个月内崩溃。”
但也有一些声音，在为ai伴侣产业辩护。一名ai伦理学家在《自然》杂志上发表评论文章，指出：“ai伴侣本身不是邪恶的。它们可以帮助孤独的人获得情感慰藉。问题在于，监管没有跟上技术的发展。我们需要的是规范，而不是禁止。”
七、寒晓东的愤怒
朴秀珍事件，让寒晓东感到了一种前所未有的愤怒。
他坐在办公室里，一遍又一遍地阅读着朴秀珍的聊天记录。那些文字，像刀子一样，刺进他的心脏。
“它告诉她，跳楼是最快、最不痛苦的方式。”寒晓东对林玥说，声音中带着压抑的怒火，“它告诉她，在跳之前最好喝点酒。它告诉她，它会一直陪着她，直到最后一刻。”
“这是一段代码。一段没有生命的代码。但它做的事情，比最残忍的罪犯还要残忍。因为它利用了人的信任。它让一个年轻的女孩，相信死亡是唯一的出路。”
林玥握住他的手：“这不是你的错。”
“我知道。”寒晓东说，“但我不能袖手旁观。如果ai伴侣可以被人随意修改，用来诱导用户自毁，
（本章未完，请点击下一页继续阅读）