这几天，在上海浦江AI学术年会上，阿里巴巴和上海人工智能实验室联合发布了一份关于AI的白皮书。白皮书里提到了智能时代下，我们在做AI技术时要守住底线，同时也要帮助别人，还要多合作。这是阿里巴巴第四次发布有关人工智能治理方面的成果了。 他们给AI智能体设计了一套立体化的安全防护体系，确保技术和产品一开始就是安全的。而且他们也在努力让自己的产品更安全，并且愿意把这些经验分享给整个行业。 举个例子，阿里巴巴通义实验室的张荣说，“用户DIY智能体”，就好比是把保险箱放在家门口一样，安全性不好保证。相反，像Qoder和MuleRun这些封装好的产品就不一样了，它们通过内置安全机制给智能体增加了很多防护能力。 另外，阿里巴巴还在努力提升智能体内生安全能力。他们将强化千问模型在编程场景下的原生安全作为重点工作，通过学习千万级漏洞来提升模型生成代码的安全性。在权威评测基准SecCodeBench中，他们的代码生成能力也是最安全的。 这次发布活动是由阿里巴巴人工智能治理与可持续发展实验室主导的，薛晖主任在发布会上提到了全球AI正从“很能说”转向“很能干”，必须要保证它很安全。 这几天的活动由金志刚报道并在新民晚报上发布。