Meta推出AI工具打击儿童性剥削广告，上半年拦截3320万违规内容

Meta近日宣布，其AI系统在2026年上半年自动检测并拦截了3320万条儿童性剥削相关内容，其中超过97%的内容是在用户举报前就被系统发现。这一数据表明，Meta的AI技术在打击网络儿童性剥削方面取得了显著成效。

为了应对网络犯罪分子不断变化的作案手法，Meta推出了全新的AI工具，专门用于识别那些利用看似无害的广告作为入口，将用户引导至非法内容的可疑行为。这些广告本身可能并不包含违法内容，但它们可能是通往非法网站的跳板。Meta表示，这种“指示性”广告（signposting）是近年来犯罪分子常用的新手段，他们试图通过这种方式规避平台的检测机制。

Meta的新工具不仅关注广告内容本身，还分析广告指向的外部链接。如果发现广告指向的网站违反了平台规则，Meta将采取措施封锁该网站，并对相关账户进行处理。此外，Meta还在使用额外的AI扫描技术，以发现之前系统可能遗漏的儿童剥削内容。

值得注意的是，Meta还开发了一种名为“红队AI代理”的工具，用于测试自身的安全防护能力。该工具会主动寻找平台安全措施中的漏洞，帮助Meta提前发现潜在的 Abuse 策略，从而更好地保护用户安全。

尽管Meta在打击儿童性剥削方面取得了显著进展，但该公司仍面临来自监管机构的压力。英国通信管理局（Ofcom）已对Meta启动正式调查，质疑其在推出Instagram新功能Instants前是否进行了充分的风险评估。Instants允许用户发布的内容在被浏览后自动消失，而Ofcom担心这可能会增加非法内容传播的风险。

Meta对此回应称，已在上线前完成了风险分析，并多次向Ofcom通报情况。Instants内置了多项防护机制，包括禁止截图、禁止二次转发分享等。然而，Ofcom强调，根据《网络安全法》，平台在进行重大功能改动时必须提前完成风险评估，否则将面临最高1800万英镑或全球营收10%的罚款。

Meta此次推出的AI工具升级，不仅是对其现有技术的一次重要补充，也是对日益复杂网络犯罪形势的积极应对。随着AI技术的不断发展，Meta希望借助更先进的算法和模型，进一步提升对非法内容的检测和拦截能力，为用户提供一个更安全的网络环境。