提出渐进优化与验证的AI基础设施软硬件协同设计
原文：Learning to Formulate: Agentic Hardware-Software Co-Design of AI Infrastructure through Progressive Optimization and Verification
AI基础设施——即训练和 serving AI模型的芯片与软件——是按层设计的。分层使系统易于管理，但也固定了优化器可以考虑的选择。需要芯片与其软件协同改变的收益在优化开始之前就被排除了：问题构建将它们遗漏在外。语言模型智能体使得重新审视这些边界成为可能，但智能体的提案本身无法证明设计是正确的或最优的。我们提出Formulaic，一种分工协作的流程。智能体编写问题构建，数学求解器在其中进行优化，验证与测量则检查其假设和结果。智能体从计算图向芯片逐步细化问题。每一步都是一个模板：一族程序及其正确的条件。墙松弛通过为约束软件的硬件限制定价来搜索芯片。本文迈出第一步，通过独立研究而非单一端到端运行。在NVIDIA GB10上，智能体编写的模板运行完整的Qwen3-8B层比SGLang快$1.075 imes$。在模拟的Ventus GPU研究中，联合设计将Qwen2.5-0.5B的最差场景周期降至参考值的0.428，而仅软件优化为0.934。在五步GEMM细化链上，复用证明使检查速度提升$2.51 imes$。作者：Yi Ding, Li Shang 类别：cs.AR,cs.AI,cs.DC