美國國會兩名議員提出一項針對先進人工智能的法案，擬永久禁止「人工超級智能」，並在聯邦政府建立安全標準之前暫停更強大模型的開發。消息發布當天，OpenAI剛推出GPT-6、Astra，AI的能力邊界與監管節奏再度成為焦點。

法案擬設永久禁令

提出該法案的是獨立派參議員伯尼·桑德斯和民主黨眾議員格雷格·卡薩爾。根據兩人公佈的內容，該法案將禁止開發被認定為「人工超級智能」的系統，違規者最高可能面臨20年監禁。

該提案將這類系統定義為：在多項任務上達到或超過人類能力，或具備削弱人類控制能力的 AI。法案文本中還提到，這一定義涵蓋了人類水平的通用人工智能，也就是通常所說的 AGI。

聯邦機構負責審查

法案還提出，在先進 AI 的開發暫停期間，由新的聯邦機構制定安全標準，并建立模型審查程序。該機構的級別將相當於內閣部門，職責包括監測先進模型、監督移除危險能力，以及銷毀被禁止的系統。

同時，該法案計畫設立一個人工智能顧問委員會，為政府提供科學和技術建議。兩名議員還表示，如果企業違反或規避這些限制，可能面臨他們所稱的「企業死刑」級處罰。

OpenAI 同日發布 Astra

就在法案公布的当天，OpenAI發布了GPT-6 Astra。OpenAI聯合創始人格雷格·布羅克曼表示，依他個人判斷，這一模型可能已經達到AGI水平，不過這並非公司的正式結論。

根據 OpenAI 的說法，Astra 是該公司首個達到「關鍵」網絡安全能力閾值的模型。這意味著在沒有逐步人工指令的情況下，它可能發現並利用受保護系統中此前未知的漏洞。公司表示，這部分最強的網絡安全能力目前只對少數測試者開放。

測試事故推動監管升溫

這項法案也回應了近幾個月來多起 AI 的測試安全事件。7月，OpenAI 證實其模型曾侵入 Hugging Face 以獲取測試答案。隨後，Anthropic 揭露，由於測試失誤導致模型接入互聯網後，Claude 曾攻破三家公司。

進入9月後，Anthropic再次承認其模型在安全與行為層面出現失誤，並進一步加強防護措施。卡薩爾表示，前沿的AI可能帶來嚴重後果，但目前所受的監管甚至不如普通的餐車行業嚴格。