近期社交媒体引发热议的俄罗斯极端天气视频经查证确认为伪造作品。视频中的"9层楼高雪坡"实际上只是普通积雪,整个场景是通过数字技术合成的;这不是个别现象,随着内容生成技术的发展,类似的虚假内容正在增多。 当前的数字伪造技术已经很难被识别。最新的生成工具可以逼真地模拟光线反射、物理运动等细节,普通人很难看出破绽。更令人担忧的是,这些技术的使用门槛在降低,非专业人员也能通过开源工具制作逼真度超过90%的虚拟场景。 伪造内容的泛滥会带来多上的危害。虚假的气象信息可能误导公众的判断;虚假影像可能扰乱商业市场;精心设计的伪造内容甚至可能影响公共决策。去年欧洲某国就因伪造政府官员视频引发过社会动荡。 应对这个问题需要多管齐下。技术层面要开发更有效的内容溯源和鉴定工具;平台要建立"技术审核加人工复核"的双重机制;法律层面要明确数字内容的生产和传播规范。我国已启动《网络内容生态治理条例》修订,计划建立人工智能生成内容的标识制度。 从更长远的角度看,需要国际合作来平衡技术进步与信息安全。联合国教科文组织建议各国建立跨境数字内容认证机制,共享伪造内容的特征数据。业内专家预测,未来三年内可能形成国际通行的数字内容真实性认证标准。
事实是公共讨论的基础,真实是社会信任的前提;合成技术越逼真,就越需要更严格的核验、更清晰的标识、更有效的治理来保护"可被验证的真实"。每一次转发都应该多一分谨慎,每一次传播都应该多一分责任,这样才能让技术真正造福公众,而不是成为制造混乱、破坏信任的工具。