我试用了 Meta 的 Muse AI agent 3 天,随后它发来一条奇怪消息,让我想彻底删除这款应用
Businessinsider
Ai 注目
一位软件开发者称,他下载 Meta 的 Muse 后三天就停止使用,因为该应用在他未主动操作的情况下发来一条关于 Gmail 和 Anthropic 消息的异常提示。此后他断开了相关权限,并表示这件事改变了他对 AI agent 的信任。
役立つ
No.ヘルプ

这篇第一人称随笔基于与休斯敦 37 岁软件开发者 Ugo Nwune 的对话,他的原话经过了删减和润色。

我大约四周前下载了 Meta 的 Muse,但三天后就停止使用了。

在使用 Muse 之前,我考虑过尝试其他 AI agent,比如 OpenClaw 和 Hermes,但我觉得自己没有足够的网络安全知识,无法有把握地使用开源 agent。

当 Muse 发布时,我看到它只是 App Store 上一个很简单的应用。我也因为它来自 Meta 这样一家市值万亿美元的公司而对安全性更有信心。

于是我决定试一试。我只用过一次。几天后,这个 agent 发来了一条意料之外的消息,整件事真的让我很震惊。

我很期待使用 Muse

我是一名软件开发者,经常使用 AI。我最喜欢的 AI 模型是 Claude Opus 5.5,我目前正在开发一个名为 EchoVault 的 AI 数字遗产平台,帮助人们即使在离世后也能与亲人保持联系。

让 Meta 的 Muse agent 帮我跑腿、替我执行任务,这个想法非常吸引我。

我用它做的第一件事,是帮我联系一位潜在投资者。我只是给它提供背景信息,然后自己发送消息。

之后,我有两天没有再使用 Muse。

我的 Muse agent 开始表现异常

下载 Muse 三天后,我洗完澡出来,看到应用弹出了一条随机消息。

这条消息来自我的 Muse agent,它说:“我现在没法查看你的邮件——我这边没有连接 Gmail,所以我没有办法查找那封 Anthropic 的消息。”我当时非常困惑,因为我两天都没有要求它检查邮箱,也没有给它发过消息。我还以为我的邮箱可能被黑了。

我和这个 agent 来回沟通,试图弄清楚它为什么会以为我发出了这样的请求。最后,Muse agent 说:“我这边无法判断是你手机上的某个人,还是平台故障;我不会假装知道。如果你愿意,我可以把这件事作为一个可能的消息完整性问题报告给 Muse 团队,让他们调查。”

从那以后,我就再也没用过我的 Muse agent

没有造成任何损失,但最让我措手不及的是,我并没有做任何事去触发这条消息。我两天都没有打开应用,它却自己做了那件事。

我知道这些 agent 可能内置了定时任务,本来就是为了在某个时间自动触发并执行有用操作,所以也许它当时是在尝试做这件事。

我没有删除这款应用,因为我想保留这段对话记录,直到这起事件不再处于调查中。不过,我已经断开了 Facebook、Instagram 和 Threads 账户的权限,这样 Muse 就无法在这些账户上写入或删除任何内容。我现在不再使用它了,等调查结束后,我会删除这款应用。

如果 Meta 能明确解释我身上到底发生了什么,我会考虑再次下载 Muse,用于研究或新闻跟踪这类风险较低的任务。

这起事件让我对 AI 的看法发生了变化

我经常使用 Claude Code 和 Codex,但我只把它们连接到我的 GitHub 账户,而不是我的邮箱或其他同样敏感的内容。我不想把邮箱也交给它们承担这种风险。

我认为 agent 应该受到监控,而不是被直接放出去处理非常重要的事情。如果只给它有限的上下文,比如一个小型数据库,或者只包含它所需信息的某个系统,我会感觉更安心。

Muse 这件事影响了我对 agent 的信任程度。以前,我以为如果一个 agent 来自一家市值万亿美元的公司,我就可以先默认它已经被更好地隔离、测试并正确对齐。

现在我知道,我必须保持警惕,不能盲目相信公司已经把这些工作都做好了,因为整个 agent 领域还很新,随着它的发展,大家其实都还在摸索。

チップ
$0
いいね
0
保存
0
閲覧数 8
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
MIAX宣布Bloomberg股指期货现已在NinjaTrader上线
MIAX表示,Tini B500指数期货和Tini B100指数期货已向符合条件的NinjaTrader Group客户开放。公司称,这些产品面向零售交易者,提供更小的名义规模、零交易所费用和免费市场数据。
PR Newswire
·2026-10-15 18:57:05
3
BNY宣布派发普通股和优先股股息
BNY表示,董事会已宣布派发普通股和优先股股息。其中,普通股季度股息为每股0.63美元,将于2026年11月9日支付给截至2026年10月26日营业结束时登记在册的股东。多只非累积永久优先股对应股息将于2026年12月21日支付给截至2026年12月5日登记在册的持有人。
PR Newswire
·2026-10-15 18:57:04
2
Starknet 就潜在退出以太坊 L2 发起投票
Starknet 正在征询 STRK 持有者,是否应研究成为独立的、后量子 layer-1 区块链,以减少对以太坊量子安全升级时间表的依赖。投票为期七天,结果将于 10 月 22 日投票结束后公布。
Cointelegraph
·2026-10-15 18:57:03
1
BNY公布2026年第三季度业绩
BNY公布了2026年第三季度财报,并表示管理层将于美国东部时间今天上午11:00举行电话会议和同步网络直播。公司还披露,相关业绩材料可在其投资者关系网站查阅,回放将于10月15日约下午3:00起提供至11月14日。
PR Newswire
·2026-10-15 18:57:01
1
PNC公布2026年第三季度净利润21亿美元,每股摊薄收益4.97美元,调整后为5.09美元
PNC金融服务集团公布2026年第三季度净利润21亿美元,每股摊薄收益4.97美元,调整后为5.09美元;总收入66亿美元,净利息收入42亿美元,平均贷款和存款均增长,并宣布每股2.00美元季度现金股息。
PR Newswire
·2026-10-15 18:56:59
1
もっと見る