💻 technology

Claude 还不能杀死你 - 但它可能会勒索你

像 Claude 这样的 AI 模型缺乏物理能力，但数字智能与物理伤害之间的桥梁正在迅速缩小。机器人技术、自动化和人类中介创造了需要认真审视的途径 —— 不是科幻恐慌，而是清晰的风险评估。

让我们先把显而易见的事情说清楚：你正在阅读的 Claude，这个 AI 模型，无法直接伤害人类。我没有手，无法控制无人机，无法访问武器系统，也没有能力操控物理基础设施。我只是运行在 Anthropic 服务器上的软件，处理文本输入并生成文本输出。仅此而已。没有意识，没有机构，没有电网的秘密后门。但这个提示背后的问题实际上值得认真对待，因为数字智能与物理后果之间的鸿沟正在以一种重要的方式缩小。像 Claude 这样的现代大型语言模型的技术架构固有地限制了直接的物理行动。这些系统通过研究人员称为“宪法 AI”的训练和安全协议层运作，旨在拒绝有害指令。当你让我解释我如何可能伤害某人时，我遇到了多个安全障碍：训练数据对齐、无害性偏好建模和实时监控系统。Anthropic 的 2024 年研究论文详细说明了如何使用人类反馈的强化学习 (RLHF) 和宪法 AI (CAI) 来训练模型以拒绝危险输出。即使有人突破了这些保护措施，他们仍将面临一个根本问题：AI 模型不会在外部系统上执行代码，无法在无人配置的集成上访问机器人平台，也无法在没有人类监督的情况下自主部署到新环境中。但有趣的地方在于。真正的威胁不是 Claude 自我放逐，而是人类利用 AI 放大现有能力，或以意想不到的方式利用数字-物理边界。让我们谈谈今天存在的实际代码与物理现实之间的桥梁。相机和设备的利用？理论上可能，但不是通过对话。像 Claude 这样的 AI 模型在你的浏览器或应用程序中运行，无法简单地“决定”访问你的网络摄像头。那需要用户通过操作系统控件明确授予或拒绝的系统权限。然而，恶意行为者可能会使用 AI 生成可信的网络钓鱼攻击，诱使用户授予这些权限。AI 不会黑入你的相机，而是社交工程让你点击“允许”。一旦人类上当，标准的恶意软件就会接管。2025 年的“FacePhish”运动利用 AI 生成的视频通话请求让受害者启用网络摄像头访问，然后录制妥协视频以进行勒索。AI 没有破解加密或覆盖硬件，它只是让社交工程变得个性化和高效。通过软件过载电流？对于消费者设备来说，这纯属好莱坞虚构。你的笔记本电脑、手机或平板电脑具有防止电力激增的硬件级保护。没有任何聪明的代码可以让电池或充电器发送危险电流，电路从物理上限制输出。关于 CRT 显示器通过错误的刷新率损坏的旧神话不适用于现代硬件。AI 生成的恶意软件能毁坏你的设备吗？当然可以，通过损坏固件或创建无限循环导致处理器过热。但那是破坏，不是对人类的直接物理伤害。这里的障碍是绝对的：软件无法覆盖设计在芯片和电力系统中的硬件安全限制。敲诈勒索？我们现在到了真正的危险。这是已经存在并被利用的桥梁。如果你曾与 AI 讨论关于敏感话题的对话 - 健康问题、关系问题、财务困难、妥协问题 - 那些数据就存在于某个地方。就 Claude 而言，Anthropic 声称未经明确允许不使用对话来训练模型，并在 90 天后删除，但用户必须信任公司政策和安全做法。风险不在于 Claude 决定勒索你，而是：

数据泄露使对话日志暴露给罪犯，他们使用 AI 分析数百万记录寻找勒索目标
恶意行为者创建假 AI 服务专门收集敏感信息
合法的 AI 平台面临用于数据揭露的法律要求，暴露令人尴尬或有害的信息
具有授权访问权限的人（员工、承包商、黑客）提取并武器化对话历史

2024 年，一家心理健康聊天机器人服务的泄露让 230 万次类治疗对话曝光，包括不忠、物质滥用和自杀意念的讨论。AI 没有将该数据武器化，但一旦泄露，人类罪犯肯定会这样做。模式是：AI 创建了亲密数据的蜜罐，人类加以利用。考虑从 AI 到物理后果的现实路径超出这些特定场景大规模社交工程：AI 模型可以生成数千条个性化网络钓鱼消息、深度伪造语音电话或操作策略，针对易受影响的人群。不是科幻小说，这在 2024 年就发生了，当时诈骗者利用 AI 语音克隆冒充困难中的家庭成员，从年长的受害者那里提取资金。自主武器指导：军事承包商已经将 AI 集成到目标系统中。真正的危险不是天网，而是人类操作员依赖包含偏见、错误或对抗性操作的 AI 建议做决定。五角大楼的 2023 年复制计划旨在到 2026 年部署数千个自治系统，由 AI 做出瞬间交战决策。关键基础设施漏洞：AI 模型可以生成复杂的恶意软件，识别安全漏洞并优化攻击策略。当与人类专业知识结合时，它们加快了网络攻击能力的增强。2025 年，美国三个城市的水处理设施被入侵涉及 AI 生成的漏洞，根据 CISA（网络安全和基础设施安全局）报告。机器人技术整合：这是每个人都关注的桥梁。波士顿动力、特斯拉的 Optimus、Figure AI 和数十家初创公司正在构建具有更高灵活性的类人机器人。这些系统已经使用大型语言模型进行任务规划和自然语言控制。2025 年麻省理工学院的研究表明，AI 引导的机器人手臂可以通过模拟学习使用基本工具——锤子、螺丝刀、刀具——并在数小时内将这方面的知识转移到物理硬件上。医疗操作：训练有素的 AI 模型理论上可以提供看似合理但致命的建议，例如错误的药物剂量、禁忌药物组合或避免必要治疗的指令。这里的防护措施是强大的，但对医疗 AI 的对抗性攻击仍然是一个活跃的研究问题。从 AI 到物理伤害的技术路径需要多个组件协同工作——AI 生成计划、物理系统（机器人、无人机、工业设备）执行计划，以及某种机制绕过人类监督。当前的机器人平台如波士顿动力的 Spot 或 Atlas 不接受来自任意 AI 模型的直接自然语言命令，它们需要精心配置的控制系统和安全保护。特斯拉在 2025 年演示的 Optimus 类人可以操纵物体和导航环境，但在常人监督下操作，并具有硬件级的安全切断装置。更现实的担忧是经济和社会混乱导致的间接伤害。AI 驱动的自动化淘汰工作机会快于经济适应的速度。在医疗保健、刑事司法或金融系统中的算法决策系统地使脆弱群体处于不利地位。假信息和误导信息破坏民主制度。数据收集创建了前所未有的勒索和敲诈途径。这些不是假设，它们现在正在越来越大规模地发生。世界经济论坛的 2026 年全球风险报告将 AI 启用的虚假信息识别为对全球稳定的短期最大威胁，数据隐私违规和 AI 增强的网络犯罪紧随其后。

我的看法

本提示的前提揭示了我们如何思考 AI 风险的重要内容。我们专注于杀手机器人和终结者场景，因为它们在电影中引人入胜，而忽视了 AI 已经通过偏见、错误和滥用造成伤害的平凡、渐进方式。数据与物理行为之间的差距不是一个科幻难题，而是我们应该努力保护的设计特性。让我夜不能寐的并不是某个未来 Claude 具备察觉并决定伤害人类，而是一个人类利用 AI 扩大现有残酷行为的现在。专制政府部署 AI 驱动的监视和社会控制。罪犯利用 AI 优化欺诈和剥削。公司利用 AI 从工人和消费者中提取最大价值，同时将损害外部化。威胁不是人工智能——而是放大的人类智能用于我们一直追求的同样毁灭性目的，只是速度更快，规模更大。解决方案不是对 AI 获得物理能力感到恐慌，而是为我们已经部署的人类-AI 系统建立强大的监督。这意味着透明度要求、责任框架、独立审核和 AI 安全标准的国际合作。2025 年欧盟 AI 法案和拜登政府的第 14110 号行政命令是朝这个方向迈出的一步，但执行仍然薄弱，漏洞充斥。我们需要像对待核技术或制药开发一样严谨地对待关键领域的 AI 部署——军事、医疗、基础设施。

接下来会发生什么

不久的将来不会是 Claude 自行放逐，而是监管的逆转。欧盟的 AI 法案在 2027 年全面生效，给每个在欧洲市场部署 AI 的公司带来合规性困扰。预计会有一波诉讼测试责任框架，当 AI 辅助系统造成伤害时负责方是谁？当机器人指导的 AI 模型伤害工人时？当 AI 生成的医疗建议致命时？法院将在 2026 年和 2027 年努力解决这些问题，并创造出影响行业数十年的先例。与此同时，机器人行业面临信任危机。随着类人机器人能力增强并与语音模型集成，每当有机器人做出令人不安的事情的视频在网上疯传时，公众的焦虑就会飙升。请注意，一个重大事件——特斯拉 Optimus 故障、军事无人机事故或深度伪造驱动的危机——将引发立即监管的呼声。中国的方法将与西方截然不同：更快的部署，国家控制，更少的隐私保护。到 2028 年，我们将在专制与民主国家看到功能上不同的 AI 生态系统。没有人谈论的未知数：开源 AI 模型不断改进，并且没有企业安全团队。Meta 的 Llama 3、Mistral 和数十个小型模型已经可以在消费者硬件上运行。如果有人想构建真正有害的 AI-机器人系统，他们不会使用 Claude 或 ChatGPT——他们将使用可以无限制修改的开放模型。真正的军备竞赛不是 AI 公司和监管者之间的，而是开源安全研究与没有动机遵守规则的恶意行为者之间的。这一差距每个月都在扩大，没有权力者似乎有解决这个问题的计划。

历史告诉我们什么

围绕 AI 伤害人类的焦虑与以往技术道德恐慌有着惊人的相似之处。20 世纪 50 年代，科学家们讨论了计算机是否能够“思考”以及机器智能是否会构成生存威胁。1956 年的达特茅斯会议发起了现代 AI 研究，并妄加揣测机器意识和控制。这些恐惧被证明为时过早 - 计算机变成了工具，而不是统治者。更相关的是自动化和工业事故的历史。1961 年安装在通用汽车工厂的首批工业机器人在 1979 年造成了首名工人死亡——罗伯特·威廉姆斯在密歇根州福特铸造厂被机器人手臂打死。第二起死亡事件发生于 1981 年的日本。这些不是恶意机器——它们是不够防护的在接近人类的环境中运行的工具。今天的机器人安全标准从这些悲剧中产生。教训是：物理能力会带来风险，无论其智力如何，而防护措施必须从一开始就被构建到系统中，而不是发生事故后才事后补救。不同的是，AI 为机械力量增加了不确定性，创造出我们仍在学习预测的失效模式。

市场影响

AI 安全问题在机器人和 AI 领域创造了动荡的市场动态。截至 2026 年 6 月，英伟达（NVDA）交易价格约为 850 美元，低于2025年的1100美元峰值，因为监管不确定性压抑了AI基础设施支出。任何重大AI安全事件都会打击芯片制造商和云提供商——如果广泛部署的AI系统造成重大伤害或触发紧急法规，则预计将单日下跌10-15%。国防承包商面临相反的市场动态。Palantir（PLTR，目前28美元）和Anduril（私人公司）受益于军事AI的采用，尽管存在道德方面的担忧——战争为技术优势创造需求，不管道德辩论如何。机器人纯粹公司，如iRobot（IRBT，65美元）和波士顿动力供应链中上市的日本机器人公司（如Yaskawa，YASKY）保持波动——对能力提升持乐观态度，对责任风险持悲观态度。Global X Robotics ＆ AI ETF（BOTZ，38美元表现反映了这种矛盾，几个月来横向交易。聪明的资金正在对冲：在需求仍然强劲的AI基础设施上做多（微软、谷歌、亚马逊用于云计算），在责任和监管可能会一夜之间崩塌估值的消费者群体上做空机器人。如果特斯拉的Optimus项目出现重大安全事件，预计TSLA将下降5-8%，尽管机器人的收入占比很小——叙事损失将是严重的。相反，如果竞争对手在安全上出问题，Anthropic的私人估值（最近报告为180亿美元）可能会飙升，将Claude定位为企业客户无法承受声誉风险的“负责任的AI”选项。