问题—— 随着大模型多行业加速落地，如何在手机、平板等资源受限设备上以更低成本运行，已成为现实需求。量化压缩通过降低参数精度、减少存储占用，显著降低计算量与能耗，让模型更容易在终端部署。但在实际应用中，不少量化模型虽然能完成推理，却在再训练、增量学习等阶段表现不理想，出现“能用但难学”的瓶颈，限制了模型持续更新与个性化适配。 原因—— 研究人员分析认为，传统训练依赖连续、细粒度的参数更新，而量化后参数取值更离散，更新幅度呈“台阶式”。当优化算法尝试做微小调整时，变化可能被舍入直接抵消，使有效更新信号变弱，训练容易停滞；即便发生更新，也可能因离散化误差累积而偏离目标。归根结底，量化带来的难以精细调整以及误差放大，使再训练难以稳定推进。 影响—— 该问题带来的连锁影响主要体现在三上：其一，终端侧个性化能力受限，难以根据用户新需求快速适配；其二，模型迭代更依赖云端集中更新，增加带宽占用、成本与时延压力；其三，在安全与合规场景中，模型若无法在本地及时学习新规则、新样本，可能降低风险响应效率。对希望把更多能力下沉到终端的产业链来说，量化模型的可训练性不足已成为一项关键约束。 对策—— 针对上述难题，研究团队提出“量化进化策略”（QES），借鉴信号处理中的德尔塔-西格玛调制思路，引入“累积误差反馈”机制：当一次更新因量化限制无法落地时，不把这部分微小更新直接丢弃，而是先累积；当累积量达到量化可表达的阈值后，再触发实际的参数变化。该方法希望在离散参数体系中尽量保留“连续更新”的效果，用更少但更有效的更新推动学习更稳定地前进。 同时，团队也注意到累积机制可能带来额外内存开销。为避免“省算力却增存储”，研究提出“无状态种子重放”方法：不保存完整的累积状态，只保留少量随机种子等关键信息；需要恢复时，通过种子重建历史过程。研究称，仅保留最近约50步的种子信息，就能显著降低存储占用，用一定计算开销换取更低内存成本，更贴合终端设备的资源特点。 前景—— 业内人士认为，如果该方法在更多任务和更大规模模型上验证有效，有望推动量化压缩模型从“只推理”迈向“可更新”，为终端侧持续学习、隐私友好的本地训练、低带宽条件下的快速迭代提供支撑。另外，端侧再训练仍面临数据质量、能耗约束、训练稳定性与安全边界等挑战；“重建换存储”带来的计算开销如何与实时性要求平衡，也需要在软硬件协同与工程优化中更检验。下一步，建立统一评测基准、完善工具链并适配更多硬件平台，可能将影响这类方案的落地速度。
当前，人工智能正从云端走向边缘、从集中走向分散。量化进化策略的提出，不仅回应了量化模型“能用但难学”的关键难题，也提示了AI技术演进的新重点：让先进模型在资源受限的真实环境中既能高效运行，也能优化。随着涉及的技术逐步成熟并进入更多应用场景，终端设备上的自适应学习能力有望继续增强，AI在更广泛领域的应用也将随之加速，推动产业智能化升级。