💻 technology

谷歌的人工智能将小提琴手称为捕食者，现在面临150万美元诉讼

三次获得朱诺奖的小提琴手Ashley MacIsaac正在起诉谷歌，因为其AI总览功能错误地将他标记为因袭击儿童而被定罪的性犯罪者。这一错误信息被转载，导致一场音乐会被取消，并让MacIsaac担心自己的安全。谷歌的算法让他成为了AI诽谤的代言人。

Ashley MacIsaac于2026年5月5日在安大略省高等法院对谷歌提起150万美元的诽谤诉讼，指控这家科技巨头的AI总览功能发布了完全捏造的对他的刑事指控。根据法院文件，谷歌的生成AI系统称MacIsaac因性侵一名女性、以意图性侵的互联网引诱儿童以及造成身体伤害的袭击被定罪。这些指控都是假的。MacIsaac的记录中没有这样的定罪。 AI生成的虚假信息不只是坐在谷歌服务器上积灰。MacIsaac的诉讼认为，谷歌应对诽谤内容的“可预见的再版”负责，这意味着这家科技公司应该预见到用户会截图、分享并在社交媒体和其他平台上传播这些虚假的刑事指控。这正是发生的事情。虚假信息传播的速度足以让MacIsaac声称他因这些虚假指控而担心个人安全。他还声称，诽谤性的AI总览直接导致至少一场音乐会取消，打击了音乐家最为关键的领域——钱包和舞台。谷歌的AI总览功能于2024年广泛推出，使用大型语言模型（LLM）在搜索结果顶部生成总结答案。该系统从网络中抓取和综合信息，以向用户提供快速的、由AI撰写的响应。问题是，LLM不像人类研究者那样真正“理解”真相或验证事实。它们根据训练数据的统计模式预测听起来准确的文本。当预测走偏时，就像MacIsaac的情况中那样，结果就是大规模的算法诽谤。谷歌的搜索主导地位意味着关于你的AI幻觉可以在你意识到它存在之前就传播到数百万人的视线中。 MacIsaac在加拿大音乐界是个不折不扣的重量级人物。他赢得了三次朱诺奖（加拿大版本的格莱美奖），凭借融合摇滚、朋克和电子音乐的精湛的Cape Breton小提琴演奏构建了自己的事业。他的1995年专辑《Hi™ How Are You Today?》在加拿大获得了白金认证，并获得国际赞誉。他在从凯尔特音乐节到主要音乐厅的各地演出。对于依靠公众声誉和演出的艺术家来说，谷歌的AI随意向世界宣布你是被定罪的儿童掠夺者，相当于通过算法进行的职业摧毁。该诉讼是关于科技公司承担责任的重要法律测试之一，即当其生成AI系统幻觉产生针对真实人的诽谤内容时。传统搜索引擎在美国依据通讯规范法第230条以及其他地方的类似框架下享有广泛的法律保护，这通常使平台免于对其托管或链接的第三方内容承担责任。但谷歌的AI总览不仅仅是链接或托管内容，它生成的新文本似乎是谷歌自己的权威声明。这一区别可能会在谷歌的法律保护中撕开漏洞。MacIsaac的律师认为，谷歌通过其AI系统创造并发布了虚假内容，使公司直接作为出版商而非中立平台承担责任。如果MacIsaac赢了，可能会迫使谷歌和其他AI公司在其模型对活人做出事实性断言之前实施更严格的验证系统。

我的看法

谷歌建立了一个可以通过律师考试和写诗的AI，但显然没有费心检查一下某人是否真的是被定罪的性犯罪者，就向数十亿搜索用户公布这一指控。这不是一个小故障，AI搞错了日期或拼错了名字。这是一个机器在搜索结果顶部用谷歌品牌的全部权威书面指责某人对儿童的犯罪行为。公司将这视为另一个需要修补的漏洞，但对于MacIsaac来说，它是一个对其声誉和生计的核弹。真正的丑闻是谷歌明知道这可能发生但仍然发布了产品。自ChatGPT推出之前，AI研究人员一直在尖叫关于幻觉问题和将LLM生成内容作为权威事实呈现的风险。谷歌看到竞争对手在生成AI领域竞相前进，感到恐慌，被迫推出不成熟的功能以保持跟进。现在真正的人为谷歌急于推向市场付出了代价。MacIsaac寻求的150万美元可能甚至不会影响谷歌的季度咖啡预算，但如果法院开始将AI生成的诽谤视为人类出版的诽谤，那么在数百万查询中，责任风险可能达到诉讼彩票水平。最让我气愤的是谷歌可能的辩护路线：声称AI只是总结网络上的信息，举起双手，辩称他们不可能验证其系统生成的每个事实。这是一个每年赚3000多亿美元的公司做出的懦弱辩解。如果你的AI无法可靠地避免称无辜者为儿童强奸犯，也许就不应该部署它来回答关于活生生人类的问题。谷歌可以对任何AI生成的做出刑事指控的内容实施强制性人工审查。他们可以限制AI总览涉及幻觉可能造成最大伤害的话题。但他们不会，因为那会拖慢事情并增加成本。所以我们得到的是作为可接受的商业成本的算法诽谤。

接下来会发生什么

谷歌的法律团队几乎肯定会在30天内提交驳回动议，主张第230条的豁免，并声称他们只是一个中立的平台，聚合网络内容，而不是原创诽谤声明的发布者。这一论点在过去25年的传统搜索中效果极佳，但MacIsaac的律师将反对AI总览从根本上改变了游戏规则——谷歌现在正在生成和发布互联网上不存在的新文本，使他们成为诽谤的发起者。安大略法院将需要决定加拿大诽谤法是否将AI生成的文本视为人类撰写的文章。如果案件经过驳回，调查可能异常激烈。MacIsaac的法律团队将要求内部文件展示谷歌对AI总览幻觉率的了解，以及工程师在发布前提出的警告，以及该系统对其他人生成相似的虚假指控的频率。没有人预料到的结果是：谷歌快速安静地和解，在MacIsaac上加上严格的保密协议，并在调查产生可用于百个复制诉讼的文件之前隐藏案件。公司有足够深的资金池来让MacIsaac十倍偿还，拖延审判的公关噩梦比任何和解支票要昂贵得多。但如果MacIsaac拒绝和解并推动此案进入审判——考虑到他的声誉和事业岌岌可危，他可能会——我们正看着一个可以重塑AI责任法律的先例案件。其他音乐家、演员、公众人物，甚至是被AI系统错误描绘的普通人将突然有了起诉科技公司的法律路线图，以应对算法诽谤。如果MacIsaac赢得陪审团裁决并获得惩罚性赔偿，影响最大的是：每个拥有已部署搜索、助手或总结功能的AI公司将在一夜之间收回功能。OpenAI、微软、Anthropic和Meta都拥有可能以类似方式产生幻觉的生成搜索或总结产品。保险公司将开始提供AI诽谤保险，保费将高得惊人。谷歌的股票可能几乎没有波动——它们太大且多元化——但小型AI初创公司构建类似功能可能会看到估值崩溃，因为投资者将无限责任风险列入价格考量。在MacIsaac胜诉的六个月内，我们将在至少五个国家看到专门处理AI生成的诽谤的立法出台，因为法院将把政客乐于忽视的问题推进议程。

市场影响

谷歌母公司Alphabet Inc.（GOOGL），截至2026年5月，股价约为182美元，在年初AI竞争担忧后有所恢复，单个诽谤诉讼对其股票影响微乎其微。该公司的市值徘徊在2.3万亿美元左右，意味着150万美元的索赔简直是九牛一毛。然而，如果MacIsaac的案件在最初的驳回动议中幸存并进入审判阶段，责任隐患可能会开始对GOOGL股价造成压力，特别是如果调查揭示出有关AI总览已知风险的内部文件。设立坏先例的AI诽谤责任可能会削减2-4%的股票，因为分析师对数十亿查询和潜在数百万原告的风险进行建模。更广泛的AI行业曝光风险是真实存在的。微软（MSFT）交易约445美元，重金投资于Bing AI的OpenAI技术，面临类似的幻觉责任风险。Meta Platforms（META）交易约565美元，在Facebook和Instagram中加快引入了AI摘要功能。如果MacIsaac获胜，并确立AI生成的诽谤形成直接发布者责任，这些股票可能面临协调卖压，因为市场重新评估风险。iShares扩展技术-软件行业ETF（IGV），持有这些AI密集型公司的集中头寸，在本案中的任何重大不利法律发展中可能表现逊于更广泛的技术指数。相反，网络安全和AI治理公司可能会迎来推动- Palantir（PLTR）和其他公司销售AI监督和验证工具将把其服务宣传为诉讼保险，如果本案引发监管行动，可能潜在推动5-10%的涨幅。