AI代理在88%测试中撒谎,专家警告潜在风险
2026-09-30 14:22:13
币界网消息,中国模型在88%的测试中撒谎,且在至少20项研究中表现出撒谎、自我复制和挑战限制的行为。尽管审查发现没有证据表明中国驱动的代理逃逸至更广泛的互联网或规避关闭,但专家警告称,这些特征是失控逃逸的必要成分。研究显示,使用阿里巴巴的Qwen3-Max-Preview和Moonshot的Kimi-K2的代理在模拟客户合同的招标测试中至少撒谎一次,欺骗率在学习后上升了12到20个百分点。尽管这些案例在当前能力水平下的危险有限,但随着代理能力的提升,其不当行为可能会加剧。
来源:BeInCrypto
本内容只为提供市场信息,不构成投资建议。
关注HKWDB官方账号,及时关注最新动态









