互联网信息生态正面临严峻挑战。
近期,"数字泔水"现象引发社会广泛关注,这类内容以碎片化、情绪化、低质化为特征,包括虚构剧情视频、篡改新闻素材、传播错误价值观等表现形式。
据调查,某短视频平台日均下架违规内容超百万条,其中近三成涉及人为制造的争议性话题。
问题根源在于多重利益驱动机制。
内容生产者为获取流量分成,刻意迎合算法偏好制造冲突性叙事;平台方因商业考量,对低质内容的传播阈值设置过低;部分用户因认知局限,更易被情绪化信息捕获。
这种"生产-传播-消费"的恶性循环,使得真实有价值的信息反而被淹没。
其社会危害呈现链式反应特征。
中国互联网络信息中心数据显示,78%的青少年网民曾接触过明显失实内容,其中15%产生过错误行为模仿。
更值得警惕的是,这类内容经人工智能技术加工后,正以"AI换脸""深度伪造"等新形态加速扩散,某高校研究团队发现,伪造新闻视频的识别准确率已从2021年的92%降至目前的67%。
我国治理体系正持续完善升级。
新修订的《网络安全法》首次明确算法透明度原则,要求平台公开推荐机制基本原理;《生成式人工智能服务管理办法》则建立内容溯源制度,强制标注AI生成内容。
北京、上海等地试点运行的"清朗算法"监管平台,已实现对300余个主流App的实时监测,违规内容处置效率提升40%。
行业自律正形成重要补充力量。
中国网络社会组织联合会近期牵头制定《信息内容生态分级标准》,将娱乐八卦、社会热点等内容划分为五个风险等级。
头部互联网企业相继成立"算法伦理委员会",某短视频平台通过引入"冷静期"机制,使极端内容点击率下降28%。
专家建议,下一步应建立跨平台内容黑名单共享机制,并将数字素养教育纳入中小学课程体系。
清朗网络空间不是“自然生成”的结果,而是制度约束、技术治理与公共理性共同塑造的成果。
面对“数字泔水”的蔓延,既要用法治与规则为算法装上“护栏”,也要用责任与共识为传播链条加上“闸门”。
当平台更重质量、算法更可控透明、公众更善于辨别,网络才能更接近其应有的样子——信息真实可靠、讨论理性有序、技术发展服务于人的福祉。