问题—— 随着大模型训练与推理需求持续攀升，算力利用效率成为产业竞争的关键变量。CUDA作为主流GPU并行计算平台，广泛服务于深度学习、科学计算与工程仿真等场景。实际应用中，模型整体性能往往受限于少数关键算子与内核的执行效率，而这些内核的性能优化高度依赖经验与硬件细节理解，开发周期长、试错成本高，成为提升算力“性价比”的突出瓶颈。 原因—— CUDA内核优化之所以困难，根本于优化目标并非“能运行”而是“跑得快”。同一段逻辑在不同线程组织、访存方式、共享内存使用、寄存器压力和指令调度下，性能差异可能呈数量级变化。传统方法依赖资深工程师基于性能分析工具反复定位瓶颈，围绕线程束效率、内存带宽利用率、访存冲突等指标进行改写与调参。过去一段时间，一些自动化代码生成工具更多停留在语法与正确性层面，容易修补表面错误，却难以稳定捕捉底层硬件行为，从而难以在复杂内核上取得可靠增益。 影响—— 此次联合团队发布的CUDA Agent，将优化目标直接锚定GPU真实性能表现，形成“生成—评测—迭代”的闭环。其核心思路是引入强化学习训练机制，让系统在大量试验中学习哪些代码形态能带来更好的吞吐与更低的延迟，而不是仅追求代码可编译、结果正确。团队同时强调将性能分析器纳入流程，围绕线程束调度、带宽占用、内存冲突等指标进行根据性优化，以提升对硬件行为的可解释性与可控性。 在基准评测上，CUDA AgentKernelBench等测试中表现出一定优势：在简单与中等复杂度内核任务上，性能相较既有编译优化方案实现成倍提升；在复杂内核场景中也取得显著增益。有关对比还显示，在更具挑战的设置下，其性能表现较部分同类系统保持明显领先。研究团队同步发布CUDA-Agent-Ops-6K数据集，提供经筛选的合成训练数据，以支持相关研究复现与更探索。上述进展意味着，面向CUDA内核该高门槛领域，自动化优化开始从“可用”迈向“高效”，为训练与推理加速提供了新的技术抓手。 对策—— 从工程落地角度看，这类方法的价值在于把“专家经验”部分转化为可学习、可迭代的流程工具，从而缩短优化周期并提升优化覆盖面。但要进一步走向规模化应用，仍需在三上发力：一是建立更完备的跨平台评测体系，覆盖不同GPU架构、不同模型算子与多样化负载，避免仅特定基准上“拔高”。二是与更复杂的编译与算子生成框架形成互补或对照，明确在端到端编译链路中的分工边界与增益来源。三是降低训练与搜索成本，探索更高效的采样策略、迁移学习与增量更新机制，减少对大规模GPU资源的依赖，使中小团队也能使用并受益。 前景—— 面向未来，深度学习系统优化正在从“手工调参时代”转向“数据驱动与闭环优化时代”。一上，模型规模与部署场景继续扩张，将持续推动对算子级、内核级极致性能需求；另一方面，硬件快速迭代带来新的指令特性与存储层级，客观上也提高了人工持续跟进的难度。以强化学习对齐硬件指标的思路，为构建更自动化的高性能计算基础设施提供了可行方向：在保证正确性的前提下，让系统以可度量的性能指标为牵引，不断寻找更优实现。若能在成本控制、鲁棒性与工程集成上取得突破，相关工具有望成为AI基础软件栈的重要组成部分，进一步释放GPU算力潜能。
这次技术突破展现了产学研协同创新的潜力，揭示了AI赋能基础软件优化的前景；在全球算力竞争加剧的背景下，此类核心技术的自主创新尤为重要。随着更多"AI for System"成果的出现，有望重塑高性能计算领域的技术生态，为数字经济发展提供新的技术支撑。