Meta推出AI工具检测涉儿童性虐待广告
原文：Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material
Meta 周三宣布，在 2026 年上半年，其已对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取了行动。与此同时，该公司正在推出新的 AI 工具，以发现可能被用于暗中将人们导向非法儿童虐待材料的广告和账户。Meta 表示，在其采取行动的内容中，超过 97% 是由其系统在用户举报之前发现的。在印度，Meta 在同一时期对 530 万条儿童性剥削内容采取了行动，其中超过 98% 是在用户举报之前检测到的。Meta 表示，其最新 AI 工具针对的是那些利用看似无害的广告将用户引导至 Meta 平台之外非法内容的人。该公司推出了一套新的大语言模型（LLM）系统，用于检测其所谓的“路标式引导”。这指的是那些可能看起来正常、但涉嫌将用户引导至非法内容或网络上其他有害活动的广告。Meta 称，这是其近期看到恶意行为者使用的一种策略，因为他们不断改变手法以逃避检测。虽然广告本身可能不包含非法材料，但它们仍可能成为通往托管儿童性虐待材料网站的门户。因此，Meta 表示，它现在不仅关注广告包含什么，也在关注广告将用户导向何处。该公司可以利用这些信息屏蔽违反其规则的网站或其他目的地，并对背后的账户采取行动。Meta 还在使用额外的 AI 驱动扫描，以发现早期系统可能遗漏的儿童剥削内容。该公司表示，随着其对这些网络运作方式了解得更多，将继续加入新的信号。另一项新工具是“红队 AI agent”，用于测试 Meta 自身的安全措施。它会寻找恶意行为者可能用来绕过公司防护的弱点。Meta 表示，这可能有助于其在新的滥用方法变得更普遍之前发现它们。此外，该