网通社科技快报
OpenAI推AI图像分类器助查儿童虐待内容 误报率降48%
OpenAI于2026年11月16日在华盛顿特区发布一款面向儿童性虐待材料(CSAM)检测的免费图像分类器,重点应对AI生成内容激增带来的审核压力。美国国家失踪与受虐儿童中心(NCMEC)数据显示,2025年与生成式AI相关的CSAM举报达40万份,较2024年6.7万份增长近5倍,逼近人工处理极限。该分类器通过API向经筛选的非营利组织、执法机构及技术联盟开放,核心功能是区分真实受害影像与AI合成伪造图,并提供风险评分辅助优先级排序。在与NCMEC、Tech Coalition及ROOST的联合早期测试中,其在同等检出量下整体标记量减少48%,被标记图像最终确认为CSAM的概率提升至原系统的2倍。技术上,模型聚焦跨模态异常特征,如不自然皮肤纹理、违例光影与解剖结构,训练数据经伦理脱敏处理,未直接使用真实受害图像。同步更新的ChatGPT安全机制包括:对涉儿童性化请求弹出专业支持警示并实施临时或永久封禁;另发布《CSAM检测与响应指南》,支持第三方开发者接入举报流程。截至11月下旬,首批12家认证机构(含ICMEC、英国NCA儿童保护部门等)已获访问权限。OpenAI承认当前工具仅覆盖静态图像,正推进多模态扩展及与数字水印、区块链溯源协同研究,并为执法部门提供定制培训,推动从被动响应转向主动赋能。