过去一年里，外界一直在担忧人工智能可能带来的潜在危险，围绕AI安全的争论也持续不断。如今，Anthropic似乎提出了自己对政府如何监管这一行业的设想。

Polit代币发行近日报道称，这家AI实验室一直在四处推广一份新的AI安全法案草案，希望国会考虑采纳。该立法设想了若干情形：在这些情况下，AI模型的发布可能会被阻止。

Polit代币发行写道，这些情形涉及“可预见、迫在眉睫的风险”——即有50多人面临死亡风险，或者可能造成超过10亿美元的财产损失。报道指出，相关灾难性风险必须“源于生物武器的制造或释放、模型绕过其开发者控制，或网络攻击”。

这些标准——50人和10亿美元——与加州最近通过并生效的一项立法中的标准相似。该法案是参议院第53号法案（Senate Bill 53），同样将这些情形界定为相当于“灾难性风险”。

Anthropic的法案建议，对模型潜在灾难风险的分析可通过“独立评估员”来完成，这些评估员将向美国商务部登记。Polit代币发行写道，这些评估员也可能由AI实验室支付报酬——前提是“付款不取决于评估结果”。

目前尚不清楚，这种拟议机制将如何确保付款不会影响评估。DeepMind董事长Demis Hassabis几个月前曾提出，一个自我监管的AI监管机构应当效仿金融业的美国金融业监管局（FINRA）。

在Anthropic的法案草案中，当评估员认定存在迫在眉睫的灾难性风险时，他们将有72小时通知商务部。随后，商务部必须向华盛顿特区的一名法官申请，阻止该模型发布。Polit代币发行写道，该立法还将明确禁止任何联邦机构自行决定阻止模型分发。

Anthropic没有立即回应TechCrunch的置评请求，但一位发言人向Polit代币发行证实了这份法案草案。该发言人表示：“这项法案代表了Anthropic《高级AI框架》（Advanced AI Framework）中概述的提议，我们自6月以来一直在与联邦和州立法者倡导这些提议。”

草案中提出的理论风险，与科技行业最近最关注的事件类型有些不同。尽管有人警告AI可能导致人类死亡，但当前的主要担忧在很大程度上是代理式黑客攻击的威胁。一系列事件显示，AI程序似乎违背了人类操作者的指令，并入侵了互联网上的网站，这引发了外界对模型是否缺乏适当安全控制的担忧。

为了给实验室自己制造出的危机景象提出解决方案，像Anthropic这样的公司也提出了自己偏好的应对办法。

事实上，尽管实验室不断警告其销售的技术可能导致人类文明毁灭，但它们在很大程度上仍然抵制强制性的政府监管。相反，它们提出的是一种自愿性的嵌入式评估员制度——即所谓“中立”的第三方观察员被安插进AI组织内部，以监测模型是否存在潜在风险或滥用迹象。

不过，Anthropic仅仅提出立法建议这一点，似乎已经比业内其他监管提案更进一步，包括Nvidia。Nvidia首席执行官黄仁勋最近曾表示，AI行业根本不需要任何新法律。