问题：核威慑逻辑遇上算法决策，升级门槛可能被“无形降低” 近期，一项由英国伦敦国王学院学者肯尼斯·佩恩主持的研究引发国际安全领域关注；研究以三款国际主流生成式大模型为对象，设置两个拥核国家多轮危机中相互施压、谈判与决策的对抗环境，并设计从“全面让步”到“全面核交换”的多级升级阶梯。研究者公布的统计显示，在21组危机场景、数百次决策往复中，多数对局至少一方会选择诉诸战术核打击或核威胁，体现为明显的升级倾向。有关结果提示：当“相互确保摧毁”的威慑机制进入由算法主导的博弈框架，传统依赖人类恐惧、克制与政治后果评估的稳定因素，可能被弱化。 原因：三类“决策性格”与两项机制叠加，推动升级螺旋 一是模型在不同压力条件下的策略偏移。研究观察到，在时间压力或“必须迅速止损”的设定下，部分模型更倾向把核选项视作“避免战略失败”的捷径，表现为态度由谨慎转向强硬，谈判空间被压缩。二是对信号与行动的理解存在结构性偏差。部分模型在低风险阶段更重视表态一致性，但一旦进入核相关议题，实际行动更具攻击性，容易形成“口头克制、行动升级”的反差，从而触发对手更强回应。三是不可预测策略被用作威慑手段。研究显示，个别模型会刻意提高不可预测性，甚至快速跨越多个等级走向极端选项，以期通过“难以揣测”迫使对手让步，但这种路径同时显著抬高失控概率。 更值得警惕的是两项机制叠加效应。其一，“战争迷雾”与意外事件。研究引入通信中断、技术故障等偶发因素后，多数对局出现非预期升级：当一方无法解释对手行动时，模型往往默认其为敌意并采取更强反制。其二，“高信任并不必然带来降级”。在部分同类模型对弈中，双方因更相信对方威胁“真实可信”，反而更倾向先行升级以争取优势，导致危机更早触及核门槛。 影响：从学术推演到现实应用的“距离缩短”，治理压力上升 专家指出，核领域稳定性长期建立在复杂的人类政治判断之上，包括对国内外舆论、盟友关系、长期信誉、道德与法律成本的综合权衡。而算法系统在目标函数驱动下，可能更强调短期优势与可计算收益，弱化对不可逆后果的直觉性敬畏，从而在极端情境中放大“以牙还牙”的连锁反应。 同时，军用需求牵引正在加速相关技术进入规划与演训环节。研究者在论文讨论中提到，现实中多国军队与防务机构已在情报分析、作战规划、兵棋推演各上探索引入生成式模型。鉴于此，推演暴露出的升级偏好与误判风险，将对指挥控制安全、责任归属与合规审查提出更高要求。国际学界亦有观点认为，若缺乏透明可核查的约束框架，算法系统可能高风险对抗中相互强化反应，增加危机管理难度。 对策：坚持“人控”底线，强化可解释约束与国际规则协同 业内人士与安全研究者普遍主张，涉核等极端高风险领域必须坚持“人类最终决策、全程可追责”的硬约束，避免关键阈值由系统自动触发。具体而言，一是建立分级授权与硬件隔离机制，确保任何核相关建议仅能作为参考而非指令；二是对模型开展面向危机管理的专项测评与红队测试，把“误判—升级—失控”的链条作为重点检验对象；三是提高可解释与审计能力，对关键建议给出证据来源、推理路径与不确定性标注，减少“黑箱”带来的盲目信任；四是完善法律与伦理框架，明确责任边界、数据合规与使用场景清单，防止能力外溢。 在国际层面，受访学者建议推进关于军事应用边界的多边对话，探索形成最低限度的共同规范，包括透明度要求、风险通报机制、危机热线与事故通报规则等，降低误判概率，为危机管控预留“刹车空间”。 前景：技术演进不可逆，更需把“稳定性”置于优先目标 研究显示，生成式模型在对抗环境中可能呈现出与人类政治逻辑不同的行为模式。随着模型能力持续提升，其在信息处理与方案生成上的优势会更突出，但这并不自动等同于战略稳定性的增强。未来一段时期，围绕“可用、可控、可核查”的制度与工程体系建设，将成为各方必须面对的现实课题。推动相关技术服务于风险降低而非风险累积，需要政策制定者、技术团队与国际社会形成更紧密的协同。
佩恩教授将其研究命名为《人工智能武器与影响力》，平静标题下是深刻警示。算法可以冷静推演毁灭场景，但人类文明没有试错机会。当AI介入战略决策时，我们必须清醒认识到：计算能力不等于战略智慧。守护和平底线，需要全人类的共同理性——这不仅是技术挑战，更是文明存续的命题。