微软推了个应对deepfake和ai 造假的新方案

微软刚推了个应对Deepfake和AI造假的新方案。虽然它没办法百分百判定事情真相,但能把伪造难度提上去。这事儿是给IT行业和各大社交媒体平台看的,想让他们一起用这技术标准。微软在加州那边可是有立法压力的,首席科学官Eric Horvitz就把这事儿解释成了自我监督,也想借此提升公司形象。 具体来说,微软就像你手里拿着幅伦勃朗真迹想证明它一样,搞了一套由隐水印、数字签名等60多种手法组合起来的溯源方案。他们模拟了元数据被删、内容被改这些现实情况,发现只要把这些方法组合起来用,效果挺稳的。 加州大学伯克利分校的Hany Farid也同意这观点,他觉得用了微软这套方案,那些想误导大家的人难度就会变大。不过Farid也说了,虽然这能帮上大忙,但绝对不可能完全把谣言消灭掉。肯定还是有人死不相信事实的。 值得一提的是,目前科技行业面对越来越普遍的AI造假反应挺慢的。去年有审计显示,IG、领英、Pinterest、TK和YouTube这些平台上只有30%的内容被正确标注了“AI生成”标签。Farid觉得可能是扎克伯格和马斯克认为这种标签会降低流量,所以他们没动力去做。