近年来,智能终端从“能连接”迈向“会思考”,但在消费级市场,应用体验仍面临多重瓶颈:一是高度依赖云端导致时延波动与体验不稳定,网络覆盖不足时功能打折;二是持续上传数据带来隐私与合规压力,用户对个人信息安全敏感度显著提升;三是终端算力、体积与续航存在天然约束,过高硬件成本难以支撑大规模普及。
如何在“性能、成本、功耗、安全”之间取得平衡,成为消费级智能产品从概念走向常用工具的关键关口。
造成上述问题的原因,既有技术演进的阶段性特征,也有产业分工变化带来的结构性挑战。
一方面,大模型能力提升推动应用爆发,但推理任务在不同终端与场景下具有碎片化、实时性强等特点,单纯依赖云端难以兼顾响应速度与可靠性;另一方面,传统高算力方案往往以高功耗、高成本为代价,难以适配穿戴设备、家居终端等对续航和体积要求苛刻的产品形态。
与此同时,全球主要科技企业开始更加重视“推理侧”基础能力建设,并与无线通信、系统芯片企业开展更深合作,表明推理能力正从少数高端算力中心走向更广泛的终端侧、边缘侧。
在此背景下,新基讯在本届CES上强调以5G通信芯片为底座,将连接能力与端侧推理能力协同设计,意在把“随时可用、稳定可用、规模可用”作为消费级产品落地的第一目标。
其思路是以低时延、广覆盖的5G连接保障跨场景协同,又以本地推理提升响应速度与可靠性,减少对云端的持续依赖,从而在家庭、办公、移动出行等高频场景中形成更稳定的体验闭环。
面向智能家居,强调即时响应与多设备联动;面向移动穿戴,突出低功耗健康监测与持续运行;面向轻量化物联协同,强调低资源占用与部署便利。
在技术路径上,新基讯提出通过模型蒸馏与分层存储等方式“把关键能力留在端上”。
具体而言,一方面以端侧推理框架配合云端大模型能力接入,降低端侧负担并保留必要的本地能力;另一方面借助小容量专用存储与硬件级优化,保留核心推理参数,缩短推理链路,实现更快响应并提升能效比。
其逻辑是:推理任务并不必然需要通用并行计算的冗余能力,面向消费级终端的定制化优化更能贴近“体积、功耗、安全”的现实约束。
对普通用户而言,这意味着在网络条件不佳时仍能完成基础识别、交互与辅助决策,且数据更少出端,有助于降低隐私风险。
该趋势的影响正在从技术层面延伸至产业格局层面。
首先,推理需求增长将带动相关芯片、操作系统与开发工具链的迭代,产业重心将更多转向“端—边—云”协同体系;其次,消费级产品“能用”与“常用”的分水岭将从单点功能转向综合体验,包括时延、稳定性、续航以及隐私保护等指标;再次,随着智能化嵌入家居、穿戴与出行等高频场景,终端的安全体系与合规能力将成为国际化过程中不可回避的“门槛项”,谁能提供可审计、可落地的安全方案,谁就更可能获得长期市场机会。
针对规模化落地的“最后一公里”,业内普遍认为需要从产品、生态与治理三方面同步发力:产品端要坚持低功耗、低成本与易部署,避免为追求参数堆叠而牺牲可用性;生态端要开放软硬件适配接口,降低开发与迁移成本,让合作伙伴能够快速形成多品类产品矩阵;治理端要把隐私保护和本地合规作为出海的基础能力,形成可持续的全球服务体系。
新基讯在展会上提出构建“5G+端侧推理”开放生态,并强调多语言轻量化模型适配与定制安全体系,意在为海外市场提供更易集成、可复制的方案。
其称搭载相关方案的首款产品“AI守护终端”将面向全球上市,也为后续市场检验提供了明确时间表。
展望未来,随着大模型能力持续下沉,推理将成为智能终端的“常备能力”,并呈现两点趋势:一是端侧推理与高速连接将进一步融合,形成更细分的场景化芯片与解决方案;二是“体验指标”将重塑竞争规则,谁能在功耗、成本、响应与安全之间形成稳定均衡,谁就更可能在消费级市场获得规模。
对中国企业而言,把握推理时代窗口期,不仅需要技术突破,更要在生态协作、标准化接口与全球合规服务上形成系统能力,才能实现从产品出海到能力出海的跃升。
从技术跟跑到标准引领,中国企业在消费电子核心零部件领域的创新实践,折射出中国制造业转型升级的深层逻辑。
当技术创新真正聚焦于解决实际应用痛点,便能在全球市场形成差异化竞争优势。
新基讯的探索表明,只有将技术突破与市场需求精准对接,才能实现从产品输出到标准输出的跨越,这也是中国智造走向世界的关键所在。