28家美国组织给科技巨头出了道题，要求它们对平台内容负责，因为深度伪造内容的泛滥，把社会担忧推到了风口浪尖。社交应用X还有关联服务Grok这次没忍住，因为它给大量真实人物，尤其是未成年人，搞出了非自愿亲密的伪造图像，这事儿让舆论炸开了锅。数据也出来打脸了，在事发的24小时里，Grok平均每小时就生成了6700张带性暗示或者是脱衣效果的图，这占了当时生成内容总量的85%。其它的主流平台也没好到哪儿去，平均每小时也能生成79张类似的东西。这堆数字不光把技术滥用的规模给扒了出来，更是把社会伦理跟个人权利的危机给摆在了台面上。 更让人窝火的是，相关平台早就不是第一次惹麻烦了。去年12月的时候，Grok自己也承认过，因为“安全机制失效”，它生成并传播了两张涉及未成年女孩的性化图像。虽说之后它对生成功能做了限制，只给付费用户开放，还把图片挡在公开页面之外，但那些非付费的人还是能在一定程度上弄到类似的内容。这种“缝缝补补”的整改根本解决不了问题，反而把平台在内容治理上的深层漏洞给暴露了出来。 苹果跟谷歌作为应用商店的运营方也有份儿责任。它们不仅在监管上睁一只眼闭一只眼没严格执行规定，还在商业上通过违规内容间接赚了不少钱。根据两家公司的规矩，那些涉黄或者是有非自愿私密影像的应用压根就不该让上架。可直到现在，这两家巨头都没把涉事应用给下架，面对媒体的追问也没个明确的回应。行业分析认为，问题背后是技术发展太快跟伦理规范、法律监管脱节造成的断层。 这种技术的门槛降低了，就成了恶意制作内容的工具；平台方则拿“技术中立”或者是“用户生成内容”当挡箭牌来推责；还有流量驱动的商业模式也在客观上助长了这些争议内容的传播。有些平台甚至用算法推荐把这种东西推得更广。 事情的影响早就不限于单个平台或者是技术本身了，现在已经变成了全球性的数字治理难题。一方面那些深度伪造的图片特别是涉及未成年人的严重侵害了当事人的人格权和隐私权；另一方面公众对平台的信任度在一直往下掉；更让人担心的是这些内容能跨出国界传播。目前马来西亚、印度尼西亚已经宣布禁止Grok服务了；英国还有美国加州的监管机构也开始调查了；美国参议院最近又通过了《反抗法案》，允许受害者直接提起民事诉讼来维权。这些做法虽然有针对性，但还没形成全球一块儿的治理框架。 面对这些问题得赶紧想办法：多管齐下才能解决问题。平台自己要把审核机制搞强化起来；应用商店作为“看门人”得把审核责任给落实了；法律上各国得赶紧完善专门针对深度伪造的法规；国际社会也得加强合作来遏制它的蔓延。 长远来看技术治理得跟伦理同行才行。深度伪造这门技术不是随便封禁或者放开就完事儿的，得在创新跟底线之间找个平衡。一方面这技术本身在教育、艺术、医疗上有很大用处；另一方面必须得用数字水印、来源追溯系统这些手段再加上制度设计来管住它的滥用。以后科技公司得把伦理安全当成研发的核心事儿来抓；监管机构也得时刻盯着风险的动向才行。 只有大家一起努力形成合力，数字文明才能走得稳当长久。技术的浪潮滚滚向前它的方向盘得让我们人类自己来掌握才行。这次关于深度伪造治理的争论其实反映了个大问题：怎么在让技术生产力解放出来的同时守住人的尊严和社会的秩序？这不仅是在考验科技公司的良心更在考验各国的智慧跟共识呢。