美国总统唐纳德·特朗普周二宣布，白宫将推出 America.gov，这是一款旨在帮助人们查找政府服务和其他信息的 AI 聊天机器人。

谷歌证实，自己是此次发布的合作伙伴，旗下 AI 模型 Gemini 参与其中，但目前尚不清楚是否还有其他 AI 公司也作出了贡献。

特朗普在 X 上发帖称：“与其迫使公民在成千上万个政府网站和规则构成的无尽迷宫中搜索……你们现在将拥有一个可回答每一个问题的统一入口。”

让政府服务更容易被找到和使用是一个值得追求的目标，但 AI 聊天机器人真的是实现这一目标的最佳方式吗？大型语言模型并非无懈可击，仍然容易出现幻觉。事实上，CNN 最近报道称，美国军方曾险些对一艘中国船只发起武装行动，因为军方认为这艘船载有核武器部件。直到最后一刻，军方才取消行动，因为他们意识到所谓威胁只是一次 AI 幻觉。

如果有人从 America.gov 获得了错误信息，这大概不会引发核战争，但错误仍可能带来严重后果。人们可能会依赖这个聊天机器人获取有关申请食品补助、续签签证或报税的信息，而一旦出错，可能意味着错过截止日期、福利被拒，或面临罚款。