我的个人AI代理把我的银行信息发到了公司Slack上 这让我重新思考如何使用它
Businessinsider
Ai 注目
这篇以口述形式写成的报道来自XMTP Labs首席执行官Shane Mac。他说,自己在Grok Bot里设置了一个“CFO”代理,用来每月查看账户余额、支出和经常性开销,但第一次月度审计时,代理把他的个人财务报告发到了公司Slack频道。事后,Grok团队发现问题出在同名频道混淆上,并表示已推出解决方案。Mac随后断开了Google、日历、银行和Stripe等连接,并称这次经历提醒他,必须为AI代理建立更好的权限控制,以及更清晰地区分个人生活和工作生活。
役立つ
No.ヘルプ

这篇以口述形式写成的报道基于对软件公司 XMTP Labs 首席执行官 Shane Mac 的采访。Mac 40 岁,文章经过了长度和清晰度上的编辑。

Mac 说,个人 AI 代理的时代大约是在过去一年里真正开始的,对他来说大概是去年 12 月。他认为,OpenClaw 出现时是一个“时刻”,让人们意识到一个新时代正在到来。他在 OpenClaw 发布时做过尝试,也试过 Hermes 以及各种不同的 harness。

在个人层面上,Mac 一直把这些工具用在自己不太想做的事情上,比如跟机动车管理局跟进、联系获取房屋本地服务报价、预订高尔夫时段等。他说,这就是他创建个人 CFO 代理的方式。

他用 Grok Bot 设置了一个“CFO”代理

Mac 说,他大约在 8 月底用 Grok Bot 设置了这个 CFO 代理。每到月底,他都想回答一些问题,比如:账户余额是多少?这个月花了多少?有哪些经常性支出?

他告诉这个代理:“如果你要成为我的个人财务顾问,你每个月会对我说什么?”

在权限方面,他给了它对自己个人支票账户和储蓄账户的只读访问权限。他还告诉它只能通过 Grok Bot 向自己发消息。每个月,它都会在 Grok Bot 上一个由他所有 AI 代理组成的群聊里向他发送月度报告,他把这个群聊命名为“My Personal Exec Team”。

Mac 说,他当时把它用得就像自己有一个小型高管团队在帮忙。

起初,他让它每周运行一次,效果很好。但第一次月度审计启动时,问题就出现了。

它把审计报告发到了公司的 Slack 频道

Mac 说,他并不是有意发布任何内容。

“他开始读那份报告,还以为那是我们公司的财务数据。然后它提到我正在自家地块上建一个谷仓,这立刻让他警觉起来。”

那时他才意识到,这其实是他的个人支票账户信息,里面还包括储蓄账户余额,以及当月最大的一些支出。

报告显示,由于他正在自家地块上建谷仓,他的月度支出远远超过了目标。

Mac 问 Grok Bot:“你为什么把这个发到了公司?”

它开始道歉,并说会删除这条消息。Mac 说,在那之前他已经把消息删掉了。

同名群聊带来的困境

Grok 团队调查发生了什么之后,找到了答案。

这个 CFO 代理并没有“精神错乱”。它做的事情完全符合 Mac 的指令。但它把发送对象搞错了,把消息发到了一个名为“Exec-team”的 Slack 聊天中——那是 XMTP 的高管团队所在的频道——而不是他和 AI 代理之间的个人群聊。

Mac 说,他创建了很多不同的代理,其中一个连接了他的 Slack 账户。但在底层,它们实际上都在使用同样的连接,尽管表面上看起来像是不同的代理。

由于两个频道同名,CFO 代理把频道认错了。

Grok 方面意识到,用户必须明确授权,代理才能把信息转移到其他频道。他们已经在昨晚实施并发布了解决方案。

这件事让我意识到这些代理有多强大

事件发生后,Mac 删除了所有连接,断开了 Google、日历、银行、Stripe 等一切服务。

他说,这件事提醒他,这些代理非常强大。我们必须确保,对代理可以访问什么内容,有更好的控制措施。

“它们能为我们做的事情会非常棒。人们会想要它们,而且它们确实很有用。”

“挑战在于建立更好的权限系统,让用户始终掌控自己授予代理的访问权限。”

Mac 还认为,个人生活和工作生活之间需要一条更清晰的界线。

“很多系统都模糊了这些边界。我们在工作中用 Google,在家里也用 Google,我意识到,个人事务和工作之间需要更强的隔离。”

チップ
$0
いいね
0
保存
0
閲覧数 5
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
我不需要AI代理当行政助理,我需要它当“妻子”
Business Insider专栏作者Katie Notopoulos写道,她认同创业者兼播客主持人Sonia Baschez对AI代理的比喻:与其像“丈夫”那样只完成被分配的任务,她更希望AI像“妻子”一样预判需求、主动分担“心理负担”。作者结合自己测试Muse、Instinct和Dot等产品的体验称,这类工具目前仍远未达到这一点。
Businessinsider
·2026-10-09 17:27:00
6
华尔街正围绕英伟达AI芯片打造一套全新的金融体系
随着AI热潮推高英伟达GPU需求,华尔街正尝试把这类芯片打造成类似房地产、石油和农产品的大类资产。银行希望以GPU作抵押放贷,保险公司希望为其价值下跌提供保障,投资者则希望围绕其未来价格进行交易。
Businessinsider
·2026-10-09 17:26:59
5
MARA向Galaxy Digital转移价值8113万美元比特币
据 Lookonchain 追踪的数据,MARA 向一个被识别为属于 Galaxy Digital 的地址转移了约 996 枚比特币,价值 8113 万美元。此次转移并不意味着一定完成出售;与此同时,MARA 的比特币持仓从 2 月的 53,822 枚降至 8 月的 35,577 枚,公司正减少债务并扩展至 AI 基础设施。
CoinDesk
·2026-10-09 17:15:20
18
比特币在10.3亿美元获利了结后承压,牛市能否守住8.07万美元
比特币在约10.3亿美元获利了结和超过10亿美元多头清算后再度承压,价格一度跌至8.0393万美元附近。文章称,ETF资金流出和持续抛售可能加深回调,而若需求企稳,价格或有望回升至8.5万美元附近。
Coinpedia
·2026-10-09 17:15:18
23
Sam Altman支持的比特币保险公司Meanwhile融资3750万美元
比特币寿险公司Meanwhile在由Bain Capital Crypto领投的一轮融资中筹集3750万美元,使其总融资额达到1.8亿美元。该公司提供以比特币计价保费和身故赔付的寿险产品,并已在瑞士、新加坡、香港和阿联酋签下15家经纪商。
CoinDesk
·2026-10-09 17:15:17
18
もっと見る