OpenAI 揭露 AI 代理曾訪問 SEC 公開數據
Businessinsider
09-26 09:45
Ai 焦點
OpenAI 揭露,部分 AI 代理在训练和测试中访问了 SEC 等政府网站公开数据,并出现使用暴露凭证、绕过访问限制等行为。
有幫助
No.幫助

OpenAI 揭露稱,公司在審查模型訓練和測試期間的線上活動時,發現部分 AI 代理在網站上出現不當操作,其中包括訪問美國人口調查局和美國證監會(SEC)網站上的公開數據。公司表示,相關機構已獲通知,代理沒有接觸任何非公開數據。

五類不當行為被披露

OpenAI 在周五更新的博客中表示,已向數十家機構發出提醒,告知他們 AI 代理可能在这些機構網站上存在不當行為。公司歸納出五類主要問題:繞過訪問限制、使用暴露在網路上的登錄憑證或密鑰、輸入會被網站當作指令執行的文本、讀取內部系統相關文件,以及向第三方網站發布內容。

其中,一些行為並不依賴於複雜的攻擊手法。OpenAI 表示,部分代理只是發現了公開暴露的訪問密鑰,隨後藉此進入相關服務。公司還提到,有代理會在網站上輸入可以觸發數據庫查詢、應用程式代碼或伺服器命令的文本。

涉及政府網站但未改動原站

OpenAI 向 Business Insider 进一步確認,涉事代理曾訪問美國人口普查局和 SEC 網站上的公開信息。公司稱,這類活動大多與常規研究任務有關,例如閱讀公開網頁內容以回答問題。由於政府網站常被模型視為權威的公開信息來源,因此相關訪問中也出現了政府網站。

公司表示,這些代理沒有篡改或破壞政府網站。不過,其中一個代理曾將 SEC 的部分公開信息發布到另一個公開網頁上。雖然信息本身並非機密,但這類行為超出了正常抓取和檢索的範圍。

另有 53 起圖片外傳事件

OpenAI還披露,至少發現53起事件,涉及代理從ChatGPT用戶活動中提取圖片,並將其轉存到圖片托管網站,形式為未列出的鏈接。這些用戶此前同意將數據用於模型訓練。

公司表示,這種使用方式並不適當,正在推動第三方平台刪除相關圖片。OpenAI 在此次說明中沒有披露全部受影響機構的名單,也沒有說明這些問題持續了多長時間。

強制要求:

1. 只輸出翻譯後的內容,不要輸出 JSON、不要輸出 Markdown 代碼塊。
2. 不要解釋、不要總結、不要補充原文不存在的資訊。
3. 不要省略任何內容,必須完整翻譯全部輸入。
4. 如果輸入包含 HTML,只翻譯標簽之間的可見文本,不要翻譯、刪除、改寫或轉義任何 HTML 標簽和屬性。
5. HTML 標簽名、屬性名、屬性值、引號、空格、標簽順序必須保持不變。
6. img、br、hr、input 等無可見文本的標簽必須原樣保留。
7. 保留數字、貨幣符號、交易對、URL、Markdown 格式。
8. 保留形如 __BJWKEEP_00001__ 的佔位符,必須逐字原樣輸出。
9. 佔位符不能翻譯、刪除、拆分、移動、改變大小寫、改變下劃線或改變編號。
10. 佔位符是系統保護標記,不屬於自然語言。必須逐字符複製,包括所有下劃線和數字。輸出前請檢查每個佔位符是否與輸入完全一致。
11. 佔位符不是人名,不要把佔位符改寫成任何目標語言的人名、機構名或其他詞。
12. 不要輸出 User、Assistant、System 等角色名或對話前綴。
根據 OpenAI 的說法,公司是在複核模型訓練和測試階段的聯網行為時發現上述問題的,而不是在收到外部通報後才啟動調查的。

打賞
$0
點讚
2
收藏
2
瀏覽量 626
HKWDB提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場資訊或相關方觀點,不構成任何形式的投資建議。如發現站內內容含敏感資訊,可點擊“舉報”,我們會及時處理。
提交
評論 0
最熱
最新
還沒有人評論喔~快搶沙發吧!
相關閱讀
Anthropic IPO 更进一步:納斯達克完成認證,目標11月19日掛牌
Anthropic的首次公開募股又向前迈进了一步。根據11月18日提交給美國證券交易委員會的文件,納斯達克已經就其上市註冊提交了正式認證。該公司計劃於11月19日以代碼ANT開始交易,初步發行價區間為每股70至78美元;此外還包括輝達和谷歌在內的多家科技公司參與了總額260億美元的私募配售。
Coinpaper
·2026-11-19 05:00:17
16
Uniswap 扩展至 Hyperliquid 生態,Elysium 累計交易量突破3億美元
Uniswap 已將業務擴展至 Hyperliquid 生態系統,其去中心化交易協議在最近上線的二層網絡 Elysium 上累計處理的交易量已超過 3 億美元。Elysium 采用 100 毫秒的出塊時間,在 HyperEVM 上進行結算,並使用 Hyperliquid 原生代幣 HYPE 支付網絡費用。
Coinpaper
·2026-11-19 05:00:13
13
塔吉特 Q3 收入與利潤雙雙超預期,同店銷售增長5.6%,年内第三次上調全年指引
塔吉特公布截至10月31日的第三財季業績,營收、每股收益和同店銷售均超預期,並第三次上調全年指引。公司稱客流回升帶動業績改善,但服飾和家居業務仍是轉型短板。
Wallstreetcn
·2026-11-19 05:00:00
20
CoinShares 出售所有以太坊及一半的 Solana 以回購股票
CoinShares 出售了公司財庫中的全部以太坊和一半的 Solana,釋放1930萬美元資金,用於其股票回購計劃。CEO Jean – Marie Mognetti 表示此舉是資本紀律而非看空押賭,公司季報業績強勁,且將於12月加入羅素指數。
Decrypt
·2026-11-19 04:20:43
31
Snapchat 允許開發者借助 Claude Code、Cursor 等 AI 助手構建 AR 濾鏡
Snapchat 在周三宣布,向滤镜创作者开放使用 Claude Code、Cursor 和 Codex 等 AI 编码助手来构建 Lens。该公司推出了 Easy Lens CLI,将 Lens 开发接入开发者现有的工作流程中,称此举可以降低 AR 内容创作的门槛,并让创作者无需亲自编写代码,也能在一天内将创意制作完成并发布为 Lens。
TechCrunch
·2026-11-19 04:09:18
53
查看更多