大家平时用智能设备的时候,一定要把国家安全部的这三条守则记牢。初中老师小李自从用AI备课,五分钟就能搞定一份教案,里面还有图片、视频和互动问答。以前要花两小时,现在省下的时间可以多关注学生个人情况,还能给学生定制练习题。独居老人陈爷爷买了个智能音箱,天天让小智陪他听戏、聊天。小智记性好,记得他孙辈的生日,还能在他忘记吃药时提醒他。29岁的小王本来是文案策划,因为跟AI对话特别顺,现在成了提示词工程师。他说关键就是把指令说得明白点。现在从智能客服到AI绘图师,大模型都在创造新岗位呢。 虽然AI把各行各业变得越来越高效,但每次技术进步都有风险。数据隐私、算法偏见这些问题就像是藏在海底的礁石,咱们得小心避开。国家安全机关发现了几个隐患:有的单位随便用开源框架建大模型,结果被黑客钻空子了。比如有个单位的人处理文件时没注意,把电脑联网还没设密码,结果被境外IP把资料给偷了。 还有个坏消息就是技术被滥用的事。利用AI的深度学习做图片和视频的深度伪造(Deepfake),能把东西做得跟真的一样。要是坏人拿来造谣言或者传播虚假信息,那就麻烦了。国家安全机关发现有些境外敌对势力用Deepfake做假视频来捣乱。 另外就是算法的偏见问题。大模型学东西学得不好的话,就会带上社会的偏见。比如有研究测试了一个AI模型,问同样的问题中文回答很客观,英文回答却可能回避历史真相甚至出错。 为了防止这些事儿发生,咱们得给AI设个“活动范围”。联网的时候别让它碰涉密数据,聊天的时候也别让它记住你的支付密码。同时也要定期清理聊天记录、改密码、更新杀毒软件。遇到要填身份证号码或者银行账号这种事儿得多留个心眼儿。 最后就是怎么跟AI合作了。给它发指令的时候要明确说不能过度推测还要让它展示思考过程。遇到重要信息最好多去别的平台验证一下。特别是涉及到政治或者历史这种话题的时候,千万别全信AI的话。 国家安全部提示大家:安全是发展的基础。只有懂科技、会用科技才能让AI变成推动社会进步的好帮手。发现有啥不对劲的线索可以打12339举报电话或者上网举报。