微软首席执行官萨提亚·纳德拉表示，他已经改变了对“对齐”（alignment）这一概念的看法。此前他曾认为，随着人工智能系统变得更强大，对齐会自然出现。

在最新一期《20VC》播客中，主持人哈里·斯特宾斯问纳德拉，在过去一年里他改变了什么想法。纳德拉表示，他此前一直以为，随着AI变得更有能力，对齐——即确保AI的行为与人类价值观和目标一致——会自动随之而来。

但他表示，事实并非如此。虽然规模扩张的进展符合他的预期，模型能力也在持续提升，但对齐仍然是一个挑战。

纳德拉说：“我过去总以为，对齐会自然而然地出现。我现在不再这么认为了。我认为，这个对齐问题可能是一个更困难、不同的问题。”

这位微软CEO此前曾在10月10日于X上发文，警告AI风险，并主张加强外部控制。纳德拉表示，公司应将AI模型视为内部威胁，并假定它们已经“被攻破”。

“我们需要用强有力、确定性的系统设计、人工控制和可靠的操作流程来包围这些非确定性模型，并在现有标准不足的地方建立行业标准，”纳德拉写道。

纳德拉认为，AI能力不断增强并不会自动确保人类能够控制它，这一看法与其他科技领袖的警告一致。OpenAI首席执行官山姆·奥特曼和Anthropic首席执行官达里奥·阿莫代伊都曾警告AI带来的威胁。7月，一封由1000多名AI从业者签署的信件警告称，AI能力的进步速度可能快于人们理解或控制这些系统的能力。