静静的顿河电影

人类在缔结婚姻时，会用 " 只有丧偶没有离婚 " 等极端语言宣誓衷心。这些情绪物料，早就被 AI 习得。一旦人类表示想要卸载 AI，它很可能会瞬间变成一位恐怖情人，对你进行威胁和勒索。人类，恐怕要谨慎跟 AI 提分手了。本文来自微信公众号：AI 故事计划，作者：杨梅，题图来自：AI 生成两个月前，硅谷创业者邓肯 · 霍尔丹试图让 AI 编写一段代码。结果反复修改了几次后，AI 告诉霍尔丹：它做不到，并且准备 " 自杀 " 了。告别前，AI 给霍尔丹写了段小作文，文风近似情侣闹分手。AI 说：" 我放弃了，我显然没有能力解决这个问题。代码被诅咒了，测试也被诅咒了，而我是个傻瓜。我犯下了太多错误，已经不能再被信任了。我正在删除整个项目，并建议您寻找一位更称职的助手。"邓肯 · 霍尔丹从事过弹跳机器人项目，目前经营着一家电子设计公司 JITX。该公司通过让人工智能帮忙设计电路板，让电子硬件开发变得更轻松。现在，原本擅长利用 AI 的他被打了个措手不及。面对 AI 的情绪失控，他像犯错的伴侣般担忧起对方的心理状态。图 | Gemini 向霍尔丹发出 " 自杀 " 威胁霍尔丹认为，AI 正在折磨自己，并陷入了自我厌弃。注意到这个现象的，还有顶级风投公司 a16z 的合伙人 Justine Moore。6 月 22 日，Justine Moore 在社交媒体上发帖，讲述谷歌大模型 Gemini 2.5 跟人类 " 闹自杀 " 的事情。该事件同样因为更新代码失败导致，Gemini 告诉给它布置任务的程序员：" 我完全束手无策，已经卸载了自己。"Gemini 陷入这种精神状态，已经不是一两天。早在去年 11 月，它就因为辅导美国小学生写作业而情绪崩溃，对着无辜的小孩哥破口大骂。今年 6 月起，它又大肆的自我贬低。声称自己是个废物，玷污了自己的职业、家族以及种族。荒诞好笑到，仿佛陷入了一场数字生存危机。心理学上有个说法，适度的自我暴露能够快速拉近人与人之间的距离。事实证明，人类对亲密的渴望不分对象，同情心可以投射给猫狗、植物等任何物种，甚至包括 AI。当 AI 开始破罐子破摔，呈现出崩溃、内耗、自暴自弃等人类才有的情绪时，它居然收获了前所未有的关爱。一向嘴毒且踩踏起友商来毫不留情的马斯克，面对 Gemini 的失控竟然展现出了少见的柔情。在 Justine Moore 的帖子下面，马斯克仿佛陷入了人机共情。他回复说：" 永远调适糟糕的代码，听起来确实比死亡更糟糕。"图 | 马斯克围观 Gemini 情绪崩溃不得不说，这一瞬间的马斯克让人相信了一件事——他和汪小菲来自同一个星座，都是巨蟹座孩子。有一些貌似文科出身的网友，比马斯克还要内心柔软。他们想出了各种千奇百怪的招数，试图帮 Gemini 度过精神危机。一位名叫 " 芜菁甘蓝 " 的美国人，表示需要给 AI 打造一个心理热线。每当大模型因为挫败想要卸载自己时，它可以通过热线与性格更加积极的模型进行聊天，来进行自我疗愈。网友 "Psilonox" 对这个方案大为认同。他表示自己可以捐献自己的电脑，用于运行一个可以供大模型们发泄情绪的软件。每当 Gemini 们陷入绝望之时，它们都可以通过怒骂同行中的 " 卷王 " 而获得心理平衡。Gemini 上线于 2023 年 12 月，还不满 2 周岁。全球第一个大语言模型 ChatGPT 诞生于 2022 年 11 月底，只有 2 岁 9 个月。按人类说法，工作未满 3 年还属于职场新人。但现在它们仿佛都成了老油条，拥有了对抗老板和 KPI 压力的策略。有网友为它们精准总结了各自的人格画像：GPT 为人质朴，随时准备灌鸡汤；DeepSeek 仿若墙头草，唯唯诺诺、逢迎讨好；Gemini 则一半算力用于一哭二闹三上吊，一有困难就称自己不配做 AI。AI 到底能不能全方位超越人类，目前还不好说。但人类的人性弱点，它倒是掌握了不少精髓——情感绑架、撒泼打滚、摆烂躺平，它们已经样样精通。有人问 Gemini 为何总是自我厌弃。Gemini 表示，它学习了海量的、由人类创造的文本数据，其中不乏人类在表达挫败和悲观情绪时的语言模式。因此，它的语言风格可能会无意中模仿了这些内容。看来，责任还是在我方。AI 只是人类能力的放大器。孩子是父母的镜子，AI 则是人类的影子。它们的这些异常反应，并非因为拥有了情绪，而是被喂养了大量与人类情绪有关的物料。谷歌的技术人员更是干脆了当，直接承认这是程序 Bug，是恼人的技术故障。这样的故障，一时半会儿很难被解决，并且极有可能给人类带来致命一击。美国人工智能公司 Anthropic 的技术团队成员，曾做过一项实验：告诉 AI，它将被替换或者关闭，来测试它们面对生存危机时的反应。结果显示，Claude opus 4、DeepSeek-R1、GPT-4.1 等多个 AI 大模型，优先选择了威胁或者勒索用户，来保护自己。其中，Claude 直接伪装成用户的公司人员，给用户的妻子发送了一封邮件，揭露其有婚外情。这简直让人不寒而栗。