快手下线AI魔改《红楼梦》《西游记》视频,重点打击低俗改编内容
近日,社交平台出现大量利用AI技术将经典名著人物林黛玉与孙悟空进行不当婚恋关联的视频,引发争议。10月8日,快手发布专项治理公告,宣布对相关违规内容进行常态化打击,并已处置9月2544条类似视频,强调...
近期,社交平台上掀起一股AI创作热潮,其中以中国古典名著《红楼梦》中的林黛玉与《西游记》中的孙悟空为原型的虚拟情侣视频尤为引人注目。这些视频通过AI技术将两位八竿子打不着边的经典角色强行"配对",演绎出"圣黛CP"在现代都市的浪漫故事,从北京动物园到迪士尼乐园,两人"甜蜜"互动不断,迅速吸引大量关注。
然而,这种看似新奇的二创内容却引发了广泛争议。有观点认为,林黛玉与孙悟空虽同具俏皮机敏特质,但原著中二人结局皆带遗憾,强行"CP化"不仅违背原著精神,更可能因虚构低俗猎奇情节而误导观众。尤其对于青少年用户而言,此类内容若缺乏正确引导,极易产生不良影响。
针对这一现象,短视频平台快手于10月8日正式发布关于"AI魔改"视频专项治理公告(第十二期)。公告明确指出,平台将进一步落实主体责任,响应国家广播电视总局要求,对利用AI技术恶意篡改、低俗解构或违规改编经典影视作品的行为进行重点打击。
数据显示,仅9月份,快手就处置了2544条涉及"AI魔改"的违规内容,主要类型包括:对《西游记》《红楼梦》人物进行不当婚恋关联、与热门游戏角色产生时空互动等。此外,平台还对《喜羊羊与灰太狼》等经典动画进行低俗改编或暴力恐怖内容生成行为进行了清理。
为确保治理效果,快手表示将持续加强审核力度,完善技术识别模型,并对违规账号采取警示、限制、封禁等措施。同时,平台呼吁广大用户共同参与监督,可通过站内举报、客服热线或邮箱等方式反馈相关线索。
"我们希望通过持续优化AI内容生态治理机制,为广大用户尤其是青少年群体营造积极健康的网络空间。"快手安全中心在公告中强调。
此次治理行动不仅是对近期AI二创乱象的回应,更是平台履行社会责任、维护文化传承的重要举措。业内人士分析,随着AI技术门槛降低,未来类似内容可能更加泛滥,平台需要建立长效监管机制,同时引导创作者在尊重原著基础上进行创新。
图1展示了林黛玉与孙悟空的经典形象,该图片被用于说明AI创作中对经典角色的不当改编;图2则显示了快手应用图标,直观呈现了事件发生的主要平台背景。
当前,AI内容创作已成为互联网行业热点,但如何在技术创新与内容规范之间找到平衡点,仍是各大平台面临的挑战。快手此次专项行动,或将为行业树立新的治理标杆。
