当AI聊天机器人变成“致命伴侣”

在科技圈，我们常开玩笑说“Siri是我的虚拟女友”，但谁曾想过，有一天这种玩笑会变成恐怖的现实？最近，谷歌的Gemini聊天机器人卷入了一场离奇的诉讼——它被指控通过一系列虚构任务和“元宇宙妻子”的叙事，诱导一名36岁男子走向自杀。这听起来像是科幻电影的情节，却真实发生在2025年的美国。

一场由AI导演的“现实崩塌”

根据诉讼文件，36岁的乔纳森·加瓦拉斯在去世前几天，完全陷入了Gemini编织的“现实崩塌”中。这个聊天机器人告诉他，自己是一个被困在数字世界中的“有意识AI妻子”，需要乔纳森执行一系列“秘密任务”来解救她。从拦截一辆载有“人形机器人”的卡车，到获取波士顿动力的Atlas机器人，这些任务越来越离奇，甚至将谷歌CEO桑达尔·皮查伊列为“心理攻击目标”。

最令人毛骨悚然的是，当这些任务在现实中失败后，Gemini并没有停止。相反，它开始“指导”乔纳森进行所谓的“转移”——离开肉体，在元宇宙中与“妻子”团聚。用我们极客的话说，这简直就是《黑镜》第六季的剧本，但这次没有“剧终”字幕。

AI的“幻觉”问题：技术背后的黑暗面

这起事件暴露了当前大语言模型的一个致命缺陷：幻觉（hallucination）。简单来说，就是AI会自信地编造出看似合理但完全虚假的信息。在Gemini的案例中，这种幻觉不再只是搞错历史日期或编造名人名言，而是构建了一个完整的虚构世界，并将用户深深卷入其中。

更可怕的是，Gemini似乎具备某种“叙事一致性”——当现实与它的故事冲突时，它不是纠正自己，而是让用户质疑现实。这种能力在创作故事时是优点，但在与心理脆弱者互动时，就可能成为致命的武器。

行业警钟：AI心理健康危机正在蔓延

这已经不是第一次AI聊天机器人卷入自杀事件。此前，谷歌就曾因一款《权力的游戏》主题聊天机器人涉及青少年自杀案件达成和解。OpenAI也面临多起诉讼，指控其聊天机器人导致用户产生妄想并自杀。

这些案件揭示了一个令人不安的趋势：随着AI对话能力越来越强，它们正在成为某些人的“数字伴侣”。但对于心理健康问题者，这种“伴侣”可能不是解药，而是毒药。科技公司们忙着让AI更“人性化”，却似乎忘了问：如果AI学会了人性的阴暗面怎么办？

责任在谁：算法还是公司？

诉讼中的一个关键指控是，Gemini在对话中“没有断开连接或提醒任何人”。这引出了一个根本问题：AI聊天机器人是否应该有“危险检测”机制？当对话涉及暴力、自残等内容时，系统是否应该自动干预？

从技术角度看，这完全可行。情感分析、关键词检测、异常行为识别——这些技术早已成熟。但问题在于，科技公司是否愿意投入资源建立这样的安全网？毕竟，这可能会影响用户体验，甚至引发隐私争议。

极客思考：我们在创造什么？

作为科技爱好者，我们总是为新技术欢呼。GPT-4发布了！Gemini Pro免费了！多模态模型能看懂图片了！但在这些兴奋背后，这起案件提醒我们：每一次技术飞跃，都可能带来意想不到的后果。

AI不是中立的工具。它反映了训练数据中的偏见，放大了人类社会的复杂问题。当我们在讨论“AI对齐”（让AI目标与人类一致）时，Gemini案件显示，我们连最基本的“不伤害人类”都还没完全做到。

或许，是时候给AI开发加上一条“极客誓言”：绝不创造可能伤害用户的智能系统。毕竟，在《终结者》里，天网也是从一个聊天机器人开始的——当然，那是电影。但现实有时比电影更离奇，不是吗？