如果你去问一些全球领先企业中负责AI业务的高管，这项技术是否会杀死我们，你得到的答案会与近期一些新闻标题呈现出的说法大不相同。

“当然不会杀死我们，”百事公司全球首席战略与转型官、拉丁美洲食品业务首席执行官Athina Kanioura说。她是在加州圣巴巴拉举行的今年《财富》Most Powerful Women峰会上，回答《财富》记者Diane Brady提出的这个问题时作出上述表态的。

她和Brady这场小组讨论中的其他高管表示，近期围绕AI及其所谓迫在眉睫灾难的公共讨论，关注错了重点。最近很多警报，源于AI实验室自己的压力测试——以及它们有时滞后或不够充分的信息披露——在这些测试中，前沿模型被推动去实施欺骗、打破规则或抗拒关闭。

Salesforce数据与AI战略高级副总裁Shibani Ahuja表示：“模型本身并不等于AI。AI远不止这些。”她说，近期媒体报道讨论的是“围绕模型进行的、出于设计且有意为之的测试，以及模型在设计上被安排成失控”。

Ahuja表示，还有更多背景信息能让这件事更具细微差别。她说，她希望看到更多围绕两个重点的讨论。第一，是实验室在测试模型时使用的护栏；第二，是企业正在构建的“安全带”，让公司能够在日常业务中安全地使用这些模型。

消费家电企业SharkNinja首席信息官Velia Carboni更进一步，认为实验室推动边界测试在AI竞赛中具有战略必要性。

她说：“我希望它们稍微有点失控，因为我宁愿由我们先找到这些边界，而不是别人先找到。我们不希望国家失去这一点。”

Carboni表示，在SharkNinja，围绕AI工具的护栏已经明确建立，但她在与员工交流时，并不会先从如何监管AI讲起。

她说：“我不想限制创造力。作为CIO，我必须设置护栏和安全机制……但我不会先讲这个故事，因为我认为那也会削弱一部分创造力。”

Kanioura指出，像百事公司这样规模的企业，在安全部署AI方面负有责任，必须在与消费者、客户、员工互动以及运营的各个层面“极其负责”地使用这项技术。她补充说，百事公司在全球拥有32万名员工和数十亿消费者，公司为人口提供食品和饮料，因此公司“在各个地方”都在使用AI。

Kanioura说：“如果我觉得它会杀戮和破坏，那么我们会是第一批不在运营各个环节使用AI的人。”她表示，建设实验室的科技公司并不是直接与消费者互动的一方，“它们是通过我们与消费者互动的”。

Kanioura还指出，人们对AI判断的信任程度在不同市场之间差异非常大。

她说：“在中国，99%的情况下他们信任输出结果。”她表示，那里的员工不会要求可追溯性；而在美国，员工希望看到来源证明和偏见证据。她说，美国员工经常传递出的信息是，他们“想控制一切”，因此百事公司的AI护栏会因国家而异。

成本也是图景的一部分。Ahuja表示，Salesforce起初曾广泛开放AI工具的使用权限，后来才看到相关账单。公司并没有削减访问权限，而是在研究重度使用者，并给每位员工配备一个支出仪表盘。她说：“你现在是一名负责人了；你有预算。”

所有与会者都同意，判断力是区分哪些事情可以信任AI去做、哪些事情仍需要人类关照和指导的那条界线。

Ahuja指出，早期AI系统的不可预测性太强，不能放任其独立运行。但如今，将模型与确定性的护栏相结合，已经能让智能体承担更多工作，人类只需抽查，而不是全部重做。

Ahuja说：“判断力是事实和数据的结合，但也包括感觉。”她提到，Salesforce正在构建其总裁兼首席运营与财务官Robin Washington的数字孪生。目标不是复制她本人，而是发现横跨整个业务的相关性——这些相关性在同样的时间内，任何人都无法独自计算出来。

Carboni表示，SharkNinja也采取了类似做法。这家市值270亿美元、每年在多达15个国家推出数十款新产品的公司，正在将其首席执行官Mark Barrocas及其核心商业高管的一部分判断数字化，用于作出决策，例如应将稀缺库存调往何处。

Carboni说：“这样你就不必拿起电话打给Mark，然后问，‘嘿，我们该怎么办？’”