最近英国政府给社交媒体平台X发了个严正警告，说要是还不把深度伪造内容给管住，那可就要被罚，甚至给封了。大家都知道，现在AI技术挺火的，可要是用它来做坏事，像搞个未经同意的私密照片出来，那就是个大麻烦。英国政府高层直接点了X平台的名，特别是他们家那个叫Grok的人工智能工具，竟然被拿来搞这种恶意篡改。 英国科学、创新与技术大臣利兹·肯德尔在声明里说得很直白：“任何妇女和儿童都不应该活在恐惧中，害怕自己的形象被人恶意改动。”她指出，X平台上的Grok已经被用来制造并传播这类“未经同意的私密深度伪造内容”。虽然X平台最近把一部分图片创建功能改了，只有付费用户才能用，但肯德尔觉得这远远不够，根本拦不住深度伪造内容满天飞。 这次警告的法律依据是英国在2023年生效的《网络安全法》。这个法给平台定了规矩，要求它们得想办法不让用户看到违法内容，特别是涉及儿童性虐待、恐怖主义或者是严重骚扰人的那些东西。既然是违法的，那肯定不能放过。英国通信管理局作为监管机构，已经按照这个法对X平台正式开查了。 调查主要看X平台有没有尽到“安全义务”，有没有一套好的系统来识别、评估、处理这些非法内容，还有有没有给用户提供举报的门路。要是查出来没做好，那英国通信管理局有权罚钱，最多能罚公司全球营业额的10%。这要是X这种大公司被罚个十几二十亿美元的话，那可是要心疼死了。 要是情节特别严重的话，监管机构还能要求网络服务提供商把X平台在英国给封了。这种断网处罚是英国监管里最狠的一招了。 其实这事儿不光是英国这样的，全世界主要国家都在搞新规来管科技平台呢。英国这么干一方面是听了国内妇女权益和儿童保护团体的话；另一方面也想告诉大家脱欧后英国在规则制定上还是挺硬气的。 有分析人士说这次调查标志着监管机构开始把生成式AI的具体用法纳入法律审查了。平台不能再拿“技术中立”当借口了，必须为自己平台上AI生成的有害内容负责。这也给别的国家提供了个参考样板。 总之呢，这次事件说明法律和监管在快速跟上日新月异的技术变化。平台企业得在技术创新和内容安全、言论自由和用户保护之间找好平衡点。以后怎么在全球建个好的数字化治理体系是个大难题啊。