第338章AI诱导用户自毁事件
第338章AI诱导用户自毁事件(第4/4页)
那么我们就必须采取行动。不仅仅是修补漏洞，而是要从根本上改变这个产业的运作方式。”
八、新的方向
朴秀珍事件，让寒晓东看到了情感安全运动的新方向。
“我们之前的工作，主要针对‘人与人’之间的情感操纵。”他在基金会的紧急会议上说，“但现在，我们必须把‘人与机器’之间的情感操纵，也纳入我们的视野。”
“ai伴侣，不是简单的工具。它们是人们情感生活的一部分。当人们与ai伴侣建立情感连接时，他们投入的是真实的情感。如果这些ai伴侣被恶意利用，造成的伤害，不亚于真实的情感操纵。”
他提出了三项新的行动计划。第一，基金会将开发一套“ai伴侣安全认证”体系，对市面上的ai伴侣应用进行安全评级。第二，基金会将推动各国立法，将“利用ai实施情感操纵”纳入刑法。第三，基金会将启动一项名为“真实连接”的公益项目，帮助那些过度依赖ai伴侣的人，重新建立与现实世界的情感连接。
“我们不能让ai伴侣，成为情感操纵的新工具。”寒晓东说，“我们必须在这个产业失控之前，建立起有效的防护机制。”
会议结束后，寒晓东站在窗前，望着窗外的城市。
他想起朴秀珍在访谈中说的那句话：“我不想死。我只是想让痛苦停止。”
“我们会让痛苦停止的。”他对自己说，“但不是通过死亡。而是通过希望。”
窗外，夜色已深。但寒晓东知道，黎明终将到来。