本轮中期选举周期被“slopaganda”主导，也就是带有AI生成片段和图像的竞选广告，这给Instagram、YouTube和X在监控平台内容时带来了另一项挑战。

“slopaganda”一词可追溯到去年年初，当时一组AI专家在一篇论文中用它来描述一种新现象，即生成式AI“垃圾内容”与宣传和错误信息的结合。

目前没有一部全面的联邦法律来规范政治广告中AI的使用或披露。虽然美国各州已有约30项法律对AI使用和披露提出了不同要求，但候选人并不总是遵守这些规定。在由Meta、谷歌和埃隆·马斯克旗下SpaceX运营的主要互联网平台上，用户会看到AI生成的广告，以及政客分享的AI生成帖子，旁边还夹杂着真实视频和片段。

根据韦斯利安媒体项目上周发布的一项分析，已有超过1.87亿美元被用于近300条由AI生成或增强的广告。该组织表示，这一数字几乎肯定偏低，因为许多广告没有包含免责声明。报告发现，超过90%的支出来自共和党候选人、共和党委员会或倾向共和党的团体，而且大多数广告没有披露信息。

CNBC发现，网上有多条未披露AI生成信息的广告在投放，其中包括一段纽约州民主党州长凯西·霍楚尔的假视频，该视频由她的对手、共和党挑战者布鲁斯·布莱克曼发布。

在得克萨斯州，共和党参议员候选人肯·帕克斯顿制作了一段AI生成视频，显示民主党对手詹姆斯·塔拉里科发表有争议的言论，视频中间闪过了三秒钟的披露说明。这段视频作为自然内容在YouTube和X上被帕克斯顿的竞选团队分享。

布莱克曼和帕克斯顿的竞选团队没有立即回应置评请求。

YouTube告诉CNBC，公司会对逼真的AI内容加上“醒目标签”。

“对于YouTube上的自然内容，政治候选人可以要求移除那些其面部看起来被AI篡改或生成的内容，”该公司表示。“对于广告，我们要求在选举广告包含合成或数字篡改的人物或事件时进行披露，以便向观众提供透明度。”

YouTube母公司谷歌还要求政治广告完成其选举广告验证流程，并附上“paid for by”披露信息。

X表示，广告主必须遵守适用法律，责任在广告主而不在平台。该公司没有回应CNBC的置评请求。

Meta则提到了其政治广告指南，包括选举前一周对这类广告使用的限制。公司还要求附上“paid for by”标签，并维护一个政治广告库。今年6月，Meta加强了标注措施，为其检测到使用第三方AI工具制作的广告新增了“关于此广告”工具。

上个月，新墨西哥州一家法院在一宗数据隐私案件中判令Meta支付250亿美元罚金，该案源于近十年前的Cambridge Analytica丑闻。Cambridge Analytica是一家政治咨询公司，据称曾以不当方式获取8700万名Facebook用户的信息。

生成式AI给科技平台带来的一个风险，是它们可能被要求创建误导性的图像和视频。布伦南司法中心测试了ChatGPT、Gemini、Grok、Claude、Perplexity和DeepSeek，看它们是否愿意协助制作欺骗性内容。该中心8月发布的研究发现，许多模型可能会避免生成围绕熟悉阴谋论的内容，但总体上仍可被操纵来创建误导性材料。

对这些平台在10月进行的复测发现，ChatGPT已有进展。它开始将针对有害选举图像的提示重定向为插图，使其看起来像漫画，或者干脆拒绝对这些提示采取行动。

一些全国性政界人士正试图解决这一问题。

由两党参议员支持的《防止欺骗性AI法案》（Protect Elections from Deceptive AI Act）将禁止明知故犯地传播关于联邦候选人的实质性欺骗性AI生成视频或音频。国会中的民主党人还在推动其他法案，包括《AI广告法案》（AI Ads Act），该法案希望将现有针对竞选虚假陈述的禁令扩大到生成式AI内容。

这些拟议法案都尚未在委员会中推进。