问题:美国国防部正加速把先进算法能力引入武器研发、情报分析和作战辅助体系。围绕“适用场景是什么、边界由谁来定、责任由谁承担”等核心问题,美防务部门与科技企业的分歧继续公开。涉事企业负责人近日表示,出于伦理与安全考虑,难以接受在缺乏明确限制的情况下,将其大模型授权用于任何“所有合法用途”。其明确底线包括:不得用于完全自主武器系统,也不得用于针对美国公民的大规模国内监控。 原因:其一,军用场景对技术可控性和可追责性要求更高。大模型在复杂环境中仍可能出现误判、偏差或被诱导,一旦与武器平台或情报流程深度绑定,风险和后果可能被放大。其二,美国对大模型在军用与情报领域的监管仍在形成中。企业担心“合法用途”表述过于宽泛,边界可能被不断拉大,从而带来声誉、合规以及潜在诉讼风险。其三,美防务部门强调保留“作战决策自主权”,不愿在合同中接受由企业设定的额外限制,担心关键行动受制于商业供应商;在大国竞争背景下,军方对先进能力的时效性与替代方案更敏感,因此倾向借助行政手段强化议价能力。 影响:首先,事件反映美国军方对大模型的依赖正在加深。该企业此前曾与国防部签署约2亿美元合同,并被纳入机密网络有关试点;,多家大型科技企业也获得类似规模合同,并普遍同意在非机密系统内按“所有合法目的”提供能力。其次,谈判拉锯可能推高军方项目衔接成本。企业称如合作中止将协助平稳切换供应商,尽量减少对军事规划与关键任务的影响,但现实中模型更换涉及数据治理、系统适配、安全认证与人员训练,短期内难以避免摩擦。再次,此事加剧美国内关于军事技术伦理与公民权利保护的争论。尽管国防部发言人表示无意将相关模型用于完全自主武器或对美国人实施大规模监控,并称此类行为违法,但其仍坚持要求获得“所有合法目的”使用权,显示监管边界与实际需求之间仍存在张力。 对策:从美方治理角度看,仅靠合同措辞难以化解分歧。其一,应进一步明确“合法用途”的具体内涵与审查流程,把用途分级、权限隔离、审计追踪和责任认定纳入制度,而非停留在原则表述。其二,对涉机密与高风险场景建立独立评估机制,强化第三方安全测试、红队评估与持续监测,降低模型在关键链路“黑箱化”带来的不可控风险。其三,政府与企业需要更透明的沟通机制,避免动辄以“供应链风险”或援引《国防生产法》等方式处理商业争议,以免激化对立并增加市场不确定性。 前景:预计美防务部门仍会推动大模型更深度嵌入军事体系,同时通过多供应商策略分散风险、增强议价能力;科技企业则可能在“可用但受限”的框架下寻求妥协,即在作战支持、后勤、训练、情报整理等领域扩大合作,但在自主杀伤与面向国内人群的监控类用途上坚持更严格限制。未来一段时期,围绕“技术可控、伦理底线、国家安全与商业自治”的博弈仍将反复出现,并可能延伸至美国盟友的军工采购与技术合作规则。
这场持续发酵的军企对峙,折射出技术创新与伦理约束在国家安全领域的直接碰撞。当算法开始触及生死决策,当数据使用可能逼近宪法边界,科技企业为技术应用划定红线——既是对风险的回应——也预示着人工智能治理进入更复杂的阶段。如何在国家安全需求与技术伦理之间建立可执行的平衡机制,将成为各国共同面对的长期难题。