就在3月6日这天,工信部专门发了预警,提醒大家本地运行那些拥有高权限的AI代理是存在失控风险的。这真不是危言耸听,因为已经有用户不小心把整块硬盘都删掉了。比如有人想让AI在群里自动回消息,结果不小心把老板的保密文件转发到了客户群里;还有人装完就忘了,AI在后台悄悄把系统给全盘扫描了一遍,连去年删掉的Excel备份都给原封不动地列出来了。连腾讯推出的那种“一键安装包”三步就能搞定的安装程序,也是连防火墙都帮你关掉的。你要是看那个“允许完全控制此电脑”下面的权限列表,密密麻麻的几乎没人会去逐条阅读。 这次湛江有位养殖户真的把OpenClaw这套开源程序装进了电脑,直接让它远程去控制增氧泵。你看这种AI它可不只是在回答“在吗”,而是真的自己动手了。它根本不依赖云端服务器,只吃你本地的算力和权限。比如你跟它说一声“把微信聊天记录发到邮箱”,它就会完成打开微信、选中聊天、复制、粘贴、发送的全部动作,你全程都不用碰键盘。 从第一条“龙虾已上岸”的截图刷到第七条的时候我才知道,OpenClaw根本不是在养虾。这东西的代码也不怎么好找,GitHub上的更新日志只能看星星数的数量来判断有没有新动静。它也没有官方的客服电话联系。技术升级得实在太快了,可关于怎么管好它却根本没人来教我们。 至于学校那边的情况就更令人担心了。现在的计算机课还在教大家怎么查IP地址呢,却压根没人讲“给AI授root权限”到底意味着什么。那种讲数字素养的PPT里虽然写着要警惕钓鱼链接,可现在真正的危险根本不是链接而是你亲手递给AI的那把钥匙。大家都在欢呼技术进步的时候,对失控风险的讨论却少得可怜。你要是让它替你签电子合同,到底算你签的还是它签的?要是误删了毕业设计到底算你操作失误还是代码缺陷?法律、保险、厂商大家都默契地保持沉默了,最后只能重装系统了事。 3月9日的时候,国家互联网应急中心连夜发布了《本地AI代理安全防护指南》,要求关掉公网暴露、禁用远程控制、插件还得签名验证。可厂商们在安装界面只要加一句“我已知晓”,“已适配”也不过是个点击确认的仪式感罢了。那些安全公司忙着推出“龙虾沙箱”“龙虾审计日志”“龙虾确认环”这些听起来像玩具的东西,实际上就是在补官方还没立好的规矩:比如转账、删文件、发邮件前必须要实体指纹或人脸识别才行。可惜法律条文里现在还是一片空白。 现在卸载掉AI软件之后留下那个硬盘备份确实挺麻烦的。我点了卸载其实不是不信AI,而是觉得这玩意儿太像一把没刀鞘的刀了。你非要用得自己打铁造鞘才行,可偏偏没人教你怎么打这把铁。GitHub上的star数现在还在疯涨呢,更新日志写的是优化鼠标点击精度还有支持双屏跨区操作呢。评论区第一行都写着:“已部署到鱼塘监控了,自动报警加拍照再发微信。”我没再装了硬盘里留着一个没删的备份——就让它安静躺着像一面镜子一样照见技术狂奔留下的那些空白和隐忧吧。