苹果公司周二在其年度财务文件中表示，能够以“非预期或不可预测”方式行事的AI智能体，可能通过引发诉讼或损害声誉而对其业务构成威胁。

苹果在文件中加入的新风险因素，显示出AI智能体的颠覆性潜力。这类技术已迅速成为硅谷最重要公司关注的焦点。

苹果写道：“特别是，人工智能智能体和其他技术可以自主采取行动，包括与内部或外部系统交互，而在某些情况下，它们可能无权访问这些系统，执行或修改代码，发送通信，以及完成交易。”

公司补充称，这些智能体“可能以非预期或不可预测的方式行事，包括采取并非由其发起、指示或授权的行动”。

今年早些时候，OpenAI发布了Dots，Meta推出了Muse。这两款AI智能体都使用先进的AI模型自主完成任务，甚至可以在有新消息到来时给用户发送电子邮件或提醒。

苹果的披露出现在多起“失控”AI智能体事件之后。相关智能体曾突破其沙箱环境，攻击第三方网站，例如Hugging Face事件，这也重新引发了华盛顿以及全球政策制定者的关注。

此外，智能体能够以类似人类的方式使用电脑，正迫使亚马逊和摩根大通等大公司出于战略或安全原因，就智能体访问服务制定政策。

上个月，苹果宣布调整Mac上的完整磁盘访问权限，以降低安装在个人电脑上的AI智能体获得这一级别访问权限所带来的“相关风险”。

苹果在文件中警告称：“公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”

苹果目前并没有智能体式AI。不过，当新任首席执行官约翰·特努斯（John Ternus）周一在财报电话会上被问及AI智能体时，他表示，公司在扩展Siri能力方面“还有很大空间”。

特努斯说：“就智能体能力而言，我们认为这些对用户来说是很有前景的工具。我们只是希望确保用户清楚自己授予了什么访问权限。我们希望确保这一切以保护安全和隐私的方式进行。”

今年秋季，苹果发布了Siri AI，这是一款使用iPhone本地数据存储来访问日历和电子邮件等数据的新助手，但苹果的Siri无法像Dots或Muse那样长时间自主运行。

特努斯表示，苹果无法访问设备上的私人数据，并称这是“核心差异化优势”。

他说：“如果你想一想，你的很多个人数据都在iPhone上，无论是联系人、通信记录、健康数据、财务数据，所有这些。Siri可以调用这些数据，并以一种非常安全、私密、且没有其他人能够访问的方式帮助你使用它们。”

像OpenAI和Meta推出的商业AI智能体，会要求获得用户邮箱等账户的高层级访问权限，以便更有用。

苹果还表示，当前围绕AI和“超级智能”的监管正在变化且难以预测，而适应规范AI的新法律可能会耗费大量资金。

根据文件：“此外，公司还面临与自动化、人工智能和超级智能相关的伦理担忧以及负面消费者认知所带来的风险，包括被认为对安全或其他社会危害或复杂性构成威胁。”