两名加州用户本月在美国加州北区联邦地区法院对 OpenAI 提起拟议集体诉讼，指控该公司在未充分告知用户的情况下，将真实的 ChatGPT 对话交由外部承包商查阅。法院文件显示，OpenAI 已于 9 月 2 日收到送达文件，需在 10 月 13 日前作出回应。
诉讼聚焦 Project Lily
这起诉讼的焦点，是 OpenAI 内部一项名为 Project Lily 的项目。根据起诉内容，OpenAI 通过第三方劳务公司聘用“AI 数据审核员”“聊天机器人评估员”等岗位人员，阅读用户输入和完整对话内容，概括用户意图，并对模型给出的四种回答进行 1 到 7 分评分和点评。
这类流程是当前大模型训练中的常见做法，即通过人工反馈帮助模型优化回答质量。原告并未否认这种训练方式本身，而是认为 OpenAI 没有清楚说明，用户对话可能会被真人而非系统单独查看。
过滤系统未拦住全部信息
起诉书称，OpenAI 在人工审核前会先通过自动化系统处理对话内容，但这一过滤机制并不能保证所有敏感信息都被拦截，因此部分个人信息仍可能进入外部审核流程。
此前，媒体 404 Media 在 9 月 14 日披露，审核人员使用的后台面板中包含“用户记忆摘要”，会汇总用户过往聊天内容。虽然用户名会被移除，但摘要仍可能暴露用户的大致位置、职业或个人生活信息。
原告提出四项整改要求
原告认为，OpenAI 现有隐私政策虽然列出部分可能接触用户数据的外部主体，但并未明确指出数据标注和人工评估供应商也会接触真实聊天内容。
诉状共提出八项法律主张，包括违反加州《不正当竞争法》、加州《消费者隐私法》，以及侵犯隐私等普通法请求。原告要求法院判给赔偿、返还收益和惩罚性赔偿。
- 人工审核前取得用户明确同意
- “为所有人改进模型”改为默认关闭
- 在聊天窗口加入更明确提示
原告还要求删除与被审核对话相关的部分工作成果，并对使用过相关数据训练的模型重新训练。目前，OpenAI 尚未在法院作出正式回应。
