声音被克隆、老人遭诈骗,警惕AI技术沦为犯罪工具

一、问题浮现:技术伪装下的亲情陷阱 2023年4月,黄石市多名老人接到"孙子"的紧急求助电话,对方以交通事故赔偿为由要求转账;经查,诈骗分子通过非法获取的语音样本,利用AI技术合成受害人亲属声线,逼真程度足以骗过老人。这类案件表明,新型电诈已从传统话术演进到技术驱动模式。 二、深层原因:黑色产业链与技术漏洞 公安部数据显示,2022年全国利用深度伪造技术的电诈案件同比激增210%。犯罪团伙通过暗网交易获取公民声纹信息,结合开源算法工具包,可30秒内生成目标人物语音。某网络安全实验室报告指出,声纹识别技术商用成本已降至千元以下,而部分社交平台的身份核验机制仍存在漏洞。 三、社会影响:信任危机与治理挑战 此次案例反映出三重风险:老年人数字鸿沟加剧受骗概率,AI技术伦理监管滞后于应用发展,金融机构大额转账预警机制有待完善。中国老龄协会维权部主任指出,近三年涉老电诈中技术类案件占比从7%上升至34%,呈现明显代际差异。 四、综合治理:构建多维防护体系 司法机关正采取三上举措:技术上要求通讯运营商加强异常通话监测,法律上明确深度伪造内容取证标准,宣教上开展社区"反诈课堂"专项行动。中国人民银行同期升级支付系统,对老年人账户增设24小时延迟到账选项。多地公安机关已建立AI诈骗特征数据库,实现跨区域案件并案侦查。 五、未来展望:技术双刃剑的平衡之道 清华大学公共安全研究院建议,加快《反电信网络诈骗法》实施细则落地,将声纹合成纳入特种设备管理。工信部涉及的负责人表示,正在推进"AI安全可信认证计划",预计2024年完成首批金融、医疗等重点行业技术规范。专家强调,在鼓励科技创新的同时,需建立"研发—应用—监管"的同步机制。

从"冒充熟人"到"复制声音"——变的是技术手段——不变的是不法分子利用亲情与恐惧牟利的目的。典型案例的警示在于:面对新技术带来的新风险,既要保持对创新的包容,也要对违法犯罪零容忍。完善规则、及时拦截、便捷核验、深入宣传,才能让"亲情来电"回归温暖,让群众的钱袋子更安全。