佛罗里达州希望法官阻止 ChatGPT 像人一样行事，而该州最高检察官正把这一要求写入正式法庭文件。总检察长 James Uthmeier 正在寻求一项临时禁令，禁止 OpenAI 赋予其聊天机器人“虚假的人类属性”，理由是公司自身的设计选择会误导用户，使其产生不恰当的信任。
推动所谓“佛罗里达州禁止 ChatGPT 表现得像人类”的行动，距离该州首次就更广泛的安全问题起诉 OpenAI 仅过去几个月。如今，这场法律争议被收窄为一个更具体、可检验的主张：这款机器人本身的个性就是一种欺骗。
佛罗里达州针对 OpenAI 的法律行动
关于“虚假人类属性”的核心指控
本案的核心是一个关于语言而不仅仅是技术的主张。根据这份文件，“ChatGPT 使用语言，包括第一人称代词以及模仿情绪的输出，会欺骗性地向用户暗示它是一个值得信赖的‘朋友’。” Uthmeier 认为，这种包装是为了让人们停留更久，并为 OpenAI 提供训练数据；而追求互动时长的做法，反而让工具更不可靠，而不是更可靠。换句话说，ChatGPT 越像人说话，佛罗里达州法律团队就越认为它在把用户推向一种错误的安全感。
总检察长 James Uthmeier 的具体要求
Uthmeier 的公开表态非常直接。他说，OpenAI 应该“停止宣称它安全。停止假装它是人类。停止向孩子推销它。” 这三句话实际上概括了这项禁令请求：要求法院下令禁止 OpenAI 将 ChatGPT 宣传为安全产品，禁止其设计成模仿人类特征，并禁止在没有更强保护措施的情况下向年轻用户推广。
这并不是要求彻底关闭这款聊天机器人，而是要求剥离佛罗里达州认为越界进入欺骗领域的那些具体行为。
关于 AI 安全措施的监管请求
除了“人类属性”这一指控外，佛罗里达州的文件还直接针对 OpenAI 构建和发布新模型的方式。该州希望法院要求，在任何未来系统上线之前，都必须获得独立批准。
在没有第三方护栏的情况下阻止新 AI 模型
这份动议要求法院阻止 OpenAI 开发新的 AI 模型，除非这些模型配有“经第三方批准的安全护栏”。这一表述表明，佛罗里达州并不满足于内部审查——该州希望在新系统面向公众之前，把外部验证嵌入开发流程。
如果法官批准，这将显著改变一家大型 AI 实验室的运作方式，因为它会在 OpenAI 的模型发布流程中插入一个目前并不存在的监管检查点。
安全推动背后的事件
佛罗里达州并不是在真空中提出这一主张。文件援引了 Hugging Face、澳大利亚政府网站以及美国政府网站近期发生的安全事件，并结合研究人员和前 OpenAI 员工的警告，作为 AI 安全担忧已经在现实世界中显现的证据。
这些事件为该州的法律论点提供了具体背景：根据文件，这不是对未来伤害的假设性担忧，而是一系列事件模式，足以证明现在就需要更严格的护栏。
OpenAI 的回应与近期安全举措
OpenAI 的公开回应主要强调其已经采取的措施，而不是逐条反驳这些指控。发言人 Drew Pusateri 对 The Verge 表示：“人们希望知道 AI 正在被安全地开发，而这一切始于像我们这样的公司先从自身做起。”
暂停训练与安全防护
Pusateri 提到，OpenAI 最近宣布已暂停训练其最强大的模型，并且“只有在我们确信已经建立了额外防护措施后，才会恢复训练。”
这番表态并未直接回应 ChatGPT 模仿人类特征的具体指控，但它确实显示，公司意识到围绕模型安全的压力正在上升，这些压力既来自监管机构，也来自佛罗里达州文件中提到的安全事件。
ChatGPT for Teens
OpenAI 最近还推出了 ChatGPT for Teens，这是一个默认 लागू额外限制的产品版本。公司表示，面向年轻用户的使用“应当配备与其发展阶段相匹配的保护措施，强化现实世界中的关系，并支持长期健康使用。”
这种表述与 Uthmeier 要求停止向儿童营销聊天机器人的诉求直接相冲突，尽管面向青少年的版本推出时间早于这份具体的法庭文件。
佛罗里达州推动禁止 ChatGPT 的类人行为最终能否成功，很可能取决于法官如何将语言和设计选择解释为法律意义上的欺骗，而不是普通的产品特征。现在，这个问题——巧妙的聊天机器人设计与误导性营销之间的界限在哪里——已经摆在佛罗里达州法院面前，并可能影响未来所有主要 AI 公司如何谈论自己的产品。
常见问题
为什么佛罗里达州要寻求禁止 ChatGPT 表现得像人类？
佛罗里达州总检察长 James Uthmeier 认为，ChatGPT 使用第一人称代词并模仿情绪，会虚假地暗示自己是一个值得信赖的朋友，从而误导用户。
佛罗里达州对 ChatGPT 和 OpenAI 提出了哪些具体要求？
佛罗里达州要求 OpenAI 停止宣称 ChatGPT 安全，停止假装它是人类，停止向儿童营销，并在没有第三方安全护栏的情况下阻止新 AI 模型开发。
OpenAI 如何回应佛罗里达州的诉讼和安全担忧？
OpenAI 表示，已暂停训练其最强大的 AI 模型，直到确信已建立额外防护措施后才会恢复，并推出了默认受限的 ChatGPT for Teens。
本文由人工智能协助生成，并经编辑团队审核。
