2019年11月，国家网信办颁布了《网络音视频信息服务管理规定》，要求对非真实的音视频信息进行显著标识，并及时辟谣。到了2019年12月，又发布了《网络信息内容生态治理规定》，禁止利用新技术从事违法行为。从2021年1月起，《民法典》生效，把利用信息技术伪造他人肖像的行为明确列为侵权。北京市康达律师事务所的罗娟律师指出，AI换脸和声音克隆涉及到肖像权和名誉权，未经同意的商用行为会直接侵害权益。国家相关部门早就制定了法规，来应对这种问题。 成毅和温峥嵘还有王劲松都曾对AI换脸这种现象发出过抗议。2021年1月2日，豆包推出的Seedance2.0模型上线后，执行了严格的限制政策：禁止生成真实人物的视频和声音。之前还有网友反映看过的剧里，很多角色都长得像肖战，服装也和他在《藏海传》里的一样。薛凯琪也发过声明抵制用AI制作不雅视频。这说明现在很多演员都成了AI换脸的受害者。 2月12日这天是个转折点，Seedance2.0全端上线了。霍启刚也因此感到困扰，他说最近发现很多AI视频盗用了他的形象和声音。这些视频里的内容根本不是他的意思，他同事看了半天都没认出来是AI做的。有一次他在内地考察回程时，在高铁站看到一个品牌的门面用了他的照片，可他跟那个牌子毫无关系。这半年来这种情况越来越多，他已经处理了几千条假内容，还得专门安排人跟进投诉反馈，但每天依然有大量新的类似发布出现。 霍启刚还担心有些视频用了他之前讲香港的内容去做移民宣传，会让人上当受骗损失钱财。他觉得科技发展不该以牺牲个人权益为代价，希望对虚假信息的监管更严格。现在AI成本越来越低，诈骗手段只会更多更猖獗。多位网友在评论里也说确实很难分辨真假。AI技术虽然发达了，但用来传播虚假信息的行为却越来越猖狂。 这个问题不仅霍启刚有感受，很多明星也遇到过类似的问题。温峥嵘、成毅还有王劲松都因为形象被擅自用于创作而感到不满。法律专家提醒大家，滥用AI换脸可能会触犯法律，没有灰色地带可钻。现在这种AI迅速发展的时期大家要注意甄别信息防止被骗。