问题浮现: 4月上旬,一位内容创作者社交平台发布由AI工具生成的紧身瑜伽服自拍照后,账号被限流;平台给出的理由是“衣着暴露,涉嫌低俗”。该创作者对此表示不满,认为审核标准偏主观,也与平台此前鼓励用户使用AI工具进行创作的导向不一致。 深层原因: 据了解,近期多家互联网平台为配合网络环境治理专项行动,升级了内容审核系统。新系统对包含特定关键词组合的内容采取更严格的审查机制,当“紧身”“瑜伽”“女性”等标签叠加时,更容易被判定为违规。技术化审核提升了处理效率,但也增加了误判的可能。 行业影响: 这个事件暴露出两个问题:其一,平台在内容治理与技术创新之间存在张力,一上希望通过AI创作丰富内容供给,另一方面对生成内容设定较高的合规门槛;其二,创作者权益保障机制仍不健全,内容被误判后,申诉与复核渠道不够顺畅。有一点是,本月初广州互联网法院就一起AI生成内容对应的案件作出判决,明确“身体形象”受肖像权保护,也更凸显法律规则与平台治理策略如何衔接的问题。 应对建议: 专家指出,缓解当前矛盾需要多方配合:平台应提升审核规则的透明度,清晰说明判定依据;同时完善申诉与复核机制,降低“技术误伤”。监管层面可考虑针对AI生成内容出台更具操作性的规范,明确各方权责边界。此外,建议平台建立更常态化的创作者沟通渠道,及时收集反馈并优化算法策略。 发展前瞻: 随着AI内容创作加速普及,如何在创新与规范之间取得平衡将成为行业长期课题。预计各平台将继续升级审核系统,通过引入人工复核、基于用户反馈的模型迭代等方式提升判断准确度。从长期看,推动行业统一的AI内容标识与分级制度,可能成为降低争议、提升治理可预期性的方向。
新技术拓展了创作空间,也对治理提出更高要求。对平台而言,合规不应停留在“一刀切”的拦截,更需要以透明规则、可解释流程和权利救济机制来支撑;对创作者而言,在使用新工具的同时也应加强规则意识与自我保护。把边界说清、把责任落实,创新才能在可预期的轨道上持续释放价值。