硅谷民主党众议员Ro Khanna将提出一项监管人工智能的法案，其中包括严格责任标准，以及在政府建立保障措施之前，禁止“递归”自我改进AI。

在多位高管警告这项技术可能失去控制之后，华盛顿正推动对AI进行监管。国会迄今基本没有采取行动来约束这项技术；AI正在支撑经济，但如果出问题，也可能造成灾难性损害。

Khanna周一在接受CNBC采访时说：“实际上存在文明灭绝风险。存在失去控制的安全风险，也存在滥用风险，我们需要认真对待这两者。”

Khanna的法案摘要已独家提供给CNBC，法案名为“Human Control Over AI Act”（《人类对AI的控制法案》）。该法案将禁止那些能够递归自我改进，或自主修改自身核心目标、封装机制或关闭控制的模型，直到联邦护栏到位并由某个机构批准相关活动。

该法案还将设立一个新的联邦机构，重点关注OpenAI、Anthropic、Google DeepMind和xAI的AI模型；随着安全担忧迅速升温，这些公司正处于聚光灯下。

该机构将负责制定安全监管规则、建立批准模型训练和部署的许可体系、对前沿AI模型进行审计，并设定持续测试和有效人类控制的安全标准。

独立审计员也将被要求进驻每一家前沿实验室，并直接向该机构报告。该机构还将制定涵盖沙盒测试环境、空气隔离（即将测试环境与互联网隔离）、紧急关闭开关，以及防止模型逃离实验室环境并在互联网上游荡的控制标准。它还将负责监管前沿实验室使用的先进芯片，包括监控或控制其使用的机制。

该法案还将为AI失控设立新的法律惩罚。

如果部署AI模型导致平民群体遭到毁灭，该法案将把这类行为定为“反人类罪”。法案还将对AI公司员工施加刑事处罚，适用于那些禁用保障措施、关闭开关、日志记录或封装系统，或明知故犯部署未经授权系统的人。

AI公司若要发布模型，还将被要求购买充足的责任保险。

该法案还呼吁政府推动可执行协议和有针对性的出口管制，以阻止中国及其他对手开发危险的AI系统。

Khanna表示，这项法案代表了“迄今提出的最全面的AI安全立法”。他说，这项法案是根据他与AI安全组织的对话制定的，这些组织包括独立非营利机构Model Evaluation and Threat Research、Machine Intelligence Research Institute和Palisade Research，而不是大型AI公司高管的诉求。

Khanna说：“我希望这能成为一个范本，让AI安全社区发声。我认为他们一直被不公平地当作科幻故事而被忽视，没有得到足够认真对待……应该由AI安全社区，而不是前沿实验室的高管，来推动这场辩论。”

目前，这项法案加入了多项其他AI安全提案之列，包括由共和党众议员Jay Obernolte和民主党众议员Lori Trahan提出的跨党派FRONTIER法案。该法案将把独立审计员安置在前沿实验室，并允许政府关闭那些可能带来灾难性风险的模型。

由于中期选举前预计不会有任何众议院法案进行表决，而参议院本周后预计将离开华盛顿，并在选举后才返回，因此相关进展暂时不会推进。