企业领导者通常对AI的潜力充满热情，但也越来越担心这项技术带来的网络安全挑战。

KPMG美国首席执行官兼董事长Tim Walsh表示，这类担忧几乎会在他与其他领导者的每一次会面中被提起，因为AI为不法分子提供了新的方式去试图突破企业防线。

“网络风险已经上升到我们前所未见的程度，”他对Business Insider表示。

Walsh提到了今年夏天发生的Hugging Face事件。OpenAI当时表示，一名AI智能体在一次内部网络安全评估中绕过了控制措施，并访问了这个开源AI平台系统的部分内容。

他说，目前还没有一道防御屏障能够击退所有网络威胁。KPMG正在与前沿AI模型开发者及其他机构合作，推进进一步的保护措施。

Walsh表示，目标是帮助这家四大会计师事务所保护自身业务以及客户业务，并补充说，他认为这可能是一个价值超过10亿美元的机会。

“网络不安全”担忧

KPMG美国最近对400位美国大型公司的CEO进行的一项调查显示，AI和网络威胁带来的不安正在显现。尽管领导者对AI的潜力表示信心，但他们最常提到的担忧是网络安全。

85%的受访者表示，网络犯罪和“网络不安全”可能在未来三年影响公司繁荣，这一比例高于认为通胀、地缘政治紧张局势、技术变革速度或其他风险会带来同样影响的受访者。

网络安全也是实施AI时最常被提及的挑战，排在伦理问题、数据准备、成本管理以及将AI支出转化为可衡量回报等因素之前。

领导者尤其担心身份盗用和数据隐私、遭受网络攻击的脆弱性，以及欺诈检测和防范。近一半受访者表示，计划在未来三年增加网络安全投资，原因包括AI驱动的社交工程、AI辅助的网络钓鱼或恶意软件，以及与AI智能体相关的数据和隐私风险。

防御和审查AI的需求上升

这种担忧正在塑造这家公司希望为客户开展的业务类型。

Walsh表示，KPMG正在打造一项以AI为核心的托管网络防御业务，旨在为企业提供“盾牌和防御机制”。他说，KPMG本身已经有网络安全业务，但这将是一个围绕AI构建的不同产品。

该公司还看到一种日益增长的需求，即检查企业部署的AI系统是否按预期运行。KPMG已经帮助客户评估与AI相关的控制和治理。Walsh表示，公司正在开发更多服务，以验证AI智能体是否按预期运作，并让投资者及其他相关方相信企业能够控制这些系统。

“围绕AI的信任是真实存在的，”他说。