AI公司躲在“这只是一个工具”这种免责声明背后的时代即将结束。现实中,人们因算法错误失去了工作、被错误指控犯罪,名誉也被毁。法院开始承认,当AI系统造成可测量的损害时,应该有人负责。问题已不在于是否可以起诉,而是哪种法律理论能给你最好的胜诉机会。 最有力的法律依据是基于成熟的产品责任法。当OpenAI的ChatGPT在2023年错误地指控某位市长贪污,或谷歌的Bard捏造人们的犯罪记录时,这些都不是抽象的损害。产品责任不需要证明过失,只需证明缺陷产品造成了损害。欧盟法院已经开始将AI输出视为现有消费者保护框架下的产品。2024年更新的产品责任指令明确涵盖了AI系统,并为造成损害的缺陷AI产品设置了严格责任。在美国,法律学者和执业律师正在围绕第230条的豁免构建案件,认为AI生成的内容与用户生成的内容在性质上根本不同,因为算法本身就是创作者。 诽谤案件是第二大类别,但更棘手。传统的诽谤要求证明有人发表了损害你声誉的虚假陈述。当一个AI幻想你犯了欺诈罪或因行为不当被解雇时,元素已经存在:虚假陈述、出版、声誉损害。挑战在于对公共人物的“恶意”标准,在1964年的纽约时报诉沙利文案中确立。但这是法律扭转的地方:律师们认为AI公司明知道其系统有文件记录的幻想率,符合“对真相的鲁莽漠视”这一门槛。广播主持人马克·沃尔特斯于2023年起诉OpenAI,因ChatGPT虚构他挪用慈善基金的指控。该案件尚在进行中,但树立了AI公司不能对其系统捏造的倾向视而不见的先例。 第三个类别涉及算法歧视,即违反民权法。平等信贷机会法(ECOA)、公平住房法(FHA)和民权法第七章都禁止在贷款、住房和就业中的歧视。当AI系统做出这些决定时,它们也受相同法律约束。司法部(DOJ)和消费者金融保护局(CFPB)都发出了确认算法偏见违反现有反歧视法规的指导意见。针对如HireVue这样的招聘平台和简历筛选工具的多起集体诉讼已经通过了驳回动议。法律理论是:如果你的AI系统性地剔除受保护类别,无论是否有人作出最终决定,你都违反了民权法。人类雇主可能可以用“业务必要性”辩护来逃避惩罚,但当你的算法决策过程是一个你自己都无法解释的黑箱时,这是行不通的。 下面是基于现有案件和监管框架对AI公司可行法律主张的完整列表:
- 产品责任:AI系统发布了缺陷产品(虚假信息)并造成了可测量的损害
- 诽谤:AI生成的虚假陈述损害了声誉
- 过失:公司未能充分测试,忽视已知风险,或在没有合理保障措施的情况下进行部署
- 欺诈:AI系统做出了有人依赖而产生损害的重大误导性陈述
- 民权法违反:在就业、住房、信贷或公共设施中的算法歧视
- 医疗事故:AI诊断或治疗建议低于公认的护理标准
- 专业过失:AI法律、财务或技术建议违反了专业标准
- 违反受托责任:AI顾问系统以公司利益为优先而忽视客户福祉
- 疏忽误导:公司理应知道其AI会在可预见情况下生成虚假信息
- 虚假广告:AI能力超出实际表现,违反联邦贸易委员会第5节
- 证券欺诈:AI生成的财务分析或建议包含实质性错误
- 隐私侵犯:未经授权使用个人数据进行训练,违反GDPR、CCPA或州隐私法律
- 版权侵权:AI在未经许可的情况下对受版权保护的作品进行培训并复制其重要部分
- 公共权利:未经授权使用姓名、肖像或声音在AI训练数据或输出中
- 故意造成精神痛苦:AI输出如此离谱,以至于引发严重情感伤害
- 疏忽造成精神痛苦:AI错误在敏感情境中导致的可预见情感伤害
联邦贸易委员会(FTC)变得异常激进。在2024年2月,该机构提出了新的规则,明确要求公司对“算法不公平性”负责,这个术语在现行法规中未定义,但基于FTC的第5节权限禁止不公平或欺骗性实践。该框架的重点不在于证明意图,而是在于损害是否可预见以及公司是否未能实施合理的保障措施。这很重要,因为它建立了比传统过失索赔更低的门槛。 医疗AI面临特别严格的审查。当AI诊断工具漏诊癌症或建议错误药物时,现有的医疗事故法适用,但有所不同。食品药品监督管理局(FDA)现在将某些医疗AI系统分类为II类或III类设备,要求进行市场前审批和市场后监测。如果经批准的设备造成损害,您可以在产品责任和医疗事故理论下同时起诉。如果公司部署未经批准的设备,您会更容易提出诉讼,因为他们违反了联邦法律。针对AI放射学系统的多起诉讼案件正在法庭中进行,测试“学会中介”学说是否适用于AI建议强烈影响或自动化决策的情况。 AI诉讼中的发现过程是公司真正挣扎的地方。与传统产品责任案件可能获得内部备忘录不同,AI案件越来越多地要求获取训练数据、模型权重和测试协议。加利福尼亚和纽约的法院已开始批准这些请求,迫使公司透露其系统的实际运作方式。2025年针对一家招聘算法公司的案件要求提供完整的训练数据和所有公平性测试结果。调查发现,公司知道其系统对女性候选者的拒绝率高出23%,但仍然进行了部署,这使得一个不确定的案件演变为一个确定的和解。