Meta周三宣布，2026年上半年已对Facebook和Instagram上的3320万条儿童性剥削内容采取行动。与此同时，公司正推出新的AI工具，以查找可能被用来暗中将用户引向非法儿童虐待材料的广告和账户。
Meta表示，其采取行动的内容中，超过97%是在用户举报前由公司系统发现的。在印度，Meta同期对530万条儿童性剥削内容采取了行动，其中超过98%是在用户举报前被检测到的。
Meta称，其最新AI工具针对的是这样一种做法：有人利用看似无害的广告，将用户引导至Meta平台之外的非法内容。
公司推出了一套新的大语言模型（LLM）系统，用于识别其所称的“signposting”。这指的是一些表面看起来正常、但被怀疑会把用户导向其他网络平台上的非法内容或其他有害活动的广告。Meta表示，随着不法分子不断改变手法以规避检测，这是公司近期观察到的一种策略。虽然这些广告本身可能不包含非法材料，但它们仍可能成为通往托管儿童性虐待材料网站的入口。
因此，Meta表示，现在不仅会查看广告本身包含什么内容，也会查看广告把用户引向哪里。公司可以利用这些信息封锁违反其规则的网站或其他目的地，并对其背后的账户采取行动。
Meta还在使用额外的AI驱动扫描，寻找早期系统可能遗漏的儿童剥削内容。公司表示，随着对这些网络运作方式了解加深，将继续加入新的信号。
另一项新工具是一种“红队AI代理”，用于测试Meta自身的安全措施。它会寻找不法分子可能用来绕过公司防护的薄弱点。Meta表示，这有助于其在新的滥用方式变得更普遍之前，提前发现这些方法。
此外，公司还在改进系统，以识别那些在此前账户被移除后，又通过新账户重返平台的用户。
这些新措施出台之际，Meta仍持续因其平台上的儿童安全问题面临压力。围绕其社交媒体服务可能给年轻用户带来的风险，该公司一直面临诉讼以及立法者的批评。8月，Meta同意支付最高180亿美元，以和解一宗涉及美国29个州的儿童安全诉讼，回应有关在线儿童保护的担忧。
Meta今年已推出多项儿童安全功能，包括面向Meta AI的家长控制、WhatsApp的学龄前账户，以及当儿童在Instagram上搜索自残内容时向家长发出提醒。
9月，WhatsApp又增加了更多家长控制功能。家长可以限制青少年如何使用Channels，控制谁可以查看他们的状态更新，并决定谁可以把自己的孩子加入群组。家长还可以选择接收与某些群组活动有关的通知。
