结合你补充的 **9 条修正、4 条核心考量、`信弘天禾.txt` 原始聊天记录**,以及刚才用 *...

Créé le : 14 novembre 2026

Répondu en utilisant GPT-6 Thinking par Chat01

Question

结合你补充的 9 条修正、4 条核心考量、信弘天禾.txt 原始聊天记录,以及刚才用 50 次靶向检索挖出的 Ascend 950 VF 融合机制、CANNBench 2.0BETA 实时榜单与 AccelSync 静态验证论文,我先把你们三份报告的分歧统一裁决掉,然后给你一份零前置上下文依赖、直接复制即可跑满血 Deep Research 的终极提示词。


一、先用一句话校准:这三份材料到底谁说对了、谁说偏了?

  1. 三份材料的最大盲区(被你一针戳破了):
    • 我的第一版:被“CANN 刚开源 / tileiras 三层架构”带兴奋了,口号喊太大(15 级去跟 19 级领导谈“我牵头搭三层全栈”会背无限锅),且当时还没查清你真正想用 AI 探索的核心难点是 950 RegBase 的 VF 融合(含硬件乱序队列上限)。
    • 第二份(GPT 报告 1):把 CompileIQ 式的底层编译器开关调优拔高得太过头了(正如你修正 #6 所说:NPUIR 自身的 Pass 并不完善,仅靠翻编译器布尔开关拿不到大收益——实时 CANNBench 2.0BETA 榜单也实锤了这一点:CANNBOT_TRITON 整体只排第 9 [1.199×],而基于 CANNBot-DSL / PyPTO S2 / ForgeKernel 做结构级探索的队伍已经打到了 1.857× ~ 2.024×!)。
    • 第三份(深研报告 2):整体最稳健务实,精准把 15 级保护边界(拿模块级 Ownership而非平台级责任)和 1 个主项目 + 1 个次项目 立住了;但它在两个地方缺了关键实锤——① 没深挖 VF 融合的硬件物理耦合,② 不知道已经有 AccelSync(专门针对昇腾 SetFlag/WaitFlag 与 TQue 的 O(∣E∣2)O(|E|^2) 静态形式化验证器,比 msSanitizer 快 400 倍!)。

二、四大关键问题的统一终局裁决(合并你所有修正后)

1. 看透你的领导 & 15 级保护策略(修正 #1、#2、#3、#5、#7)

  • 领导画像已坐实:从“让几个硕士纯算法干翻 LLVM 寄存器分配 + 不准对现有实现有敬畏之心”[修正#1,#7]、到“拿图着色硬刚强 NP-Hard PlanMemory 先追运行性能失败再追编译性能再失败”[修正#2]、再到“看英伟达搞 AI 算子又想跟风要端到端”,这属于典型的缺乏复杂度敬畏、追风口式拍脑袋决策,甚至连内部已经卷到 21 支队伍的 CANNBench 2.0 (AscendTalker / PyPTO S2 / ForgeKernel) 都没摸清底细。
  • 结论:** 这个团队绝不适合久留**。但你不需要当愣头青去跟 19 级顶牛,而是用「15 级最聪明的借船出海打法」:
    • 绝对不接:“半年内用端到端 AI 生成超越 AscendC/ccec 后端”的平台级死命令;
    • 主动只接两个你最有掌控力、外部简历最值钱的“编译器侧模块 Ownership”:
      1. NPUIR 诊断反馈出口(特别是暴露 VF 指令规模/栈深度、UB 峰值、L0C 驻留状态、PlanMemory Level0/1/2 冲突边);
      2. 可信自动化验证门禁(基于 AccelSync 风格静态同步覆盖验证 + 有界内存越界/对齐 SMT 检查 + msSanitizer + 防作弊 Benchmark)。
    • 把“端到端调优”本身留成 2 周 PoC 的对比实验:跑得好是你诊断+验证底座赋能得好,跑不出大收益也天然证明瓶颈在缺失确定性 Pass 而非你的锅!

2. 彻底解开你的技术困惑:为什么「L1 / L2 / L3 (VF 融合) 真的不分家」?(考量 #3)

你直觉敏锐到令人头皮发麻——我刚把 CANN 950 官方 RegBase 指南、msprof 实操手册、Triton-Ascend 10月29日最新编译选项 和 AscendNPU-IR 这几天(11月5日~13日)刚合入的主干提交(!4794 feat/ave-simd-register-ops、!4487 fix/merge-vf-gated-dma-buffer)全拉出来,物理规律完全印证了你的判断:

  1. 为什么 L1(PyTorch →\to Tile & Fusion)没有“已经优化得很好”?
    • 蚂蚁集团刚发的 FusionAgent(2026.10)直接证明:传统编译器(torch.compile / HFusion)的融合规则是局部贪心且融合边界死板的——大区域融合虽省启动开销,却会拉爆片上内存并打死并行度;而 PyPTO 的 Tensor -> Tile -> Block 对外锁死了 Tile/Block 层,AscendNPU-IR 的 -hfusion-merge-vf 默认规则极其粗糙(-merge-level=1 只合无依赖 VF,-merge-vf-num-limit=4 硬上限)。
  2. 为什么 L3(VF 融合 + Buffer 复用)与 L1(Tiling)、L2(Pipeline/内存)在物理上 100% 死锁耦合?
    • 不融合 VF(拆分太碎):每拆一次,数据就要被迫 RegFile -> UB Store -> UB Load 走一趟锯齿往返,既吃爆 UB 带宽又多占 UB 寿命周期;
    • 无脑全融合进一个大 VF(all-op):你在 950 上立刻撞上两堵硬件死墙——
      • 硬件乱序发射队列上限(OoO Queue Limit):950 RegBase 实测手册明文记录,多项式 COS 一个循环体 30+ 条指令就会打满硬件乱序队列上限,导致 IPC 跌至 1.22 且循环被迫串行;拆成三段小 VF 后,硬件 VLOOP 重新让 2~3 个循环体跨迭代乱序并行执行!
      • Vector 寄存器溢出与栈爆裂:所以 Triton-Ascend 刚新增了 enable_vf_stack_limit(按 BiShengIR 估算的 VF 栈占用限制融合)和三档策略 vf_fusion_mode = "max-parallel" | "all-op" | "ub-aware-op"!
    • 反馈反噬 L2 与 L1:一旦为了保 OoO IPC 而拆分大 VF,中间结果又必须回落到 UB 成为新的临时 Buffer;此时 L2 的 PlanMemory 三级复用 如果激进走 Level0(跨流水线复用),就会逼着插入额外的 SetFlag/WaitFlag 破坏流水并行;如果走 Level1(将单缓冲升为双缓冲),UB 容量直接翻倍触发溢出——逼着 L1 必须减小 Tile!
  3. 结论:不要做“三个互不沟通的独立 LLM”,而要做「一个联合搜索 Agent(联合提议 Tile + Pipeline + VF Split/Merge & Buffer-Reuse Hint) + 确定性 NPU-IR/ccec 诊断反馈 + 静态/动态验证门禁」!

3. 形式化验证切入点(考量 #2):直接站在 AccelSync + KernelAudit 肩膀上

  • 不要从零造通用的 Z3 PTX/Ascend 证明器(VOLTA / Racer 靠的是 PTX 完整公开文档,Ascend 950 闭源后端做不到端到端汇编等价证明)。
  • 你应该用你的 MLIR Dataflow + 参数感知 Alias Analysis 底子,主攻 IR 层可判定的三板斧:
    1. AccelSync 式静态同步覆盖检查(arXiv:2605.07881 已证明在昇腾流水线模型下时间复杂度 O(∣E∣2)O(|E|^2) 可判定且完备,曾在 6,292 个 CANN 算子里揪出 3 个漏网竞态,在 LLM 生成算子里抓出 19.2% 同步缺陷,单算子仅需 21ms,比 msSanitizer 便宜 400 倍!);
    2. 有界仿射越界与对齐静态检查(输出严谨的三态 PROVED / FAIL / UNKNOWN,把 UNKNOWN 交给 msSanitizer 动态兜底);
    3. KernelAudit 式防作弊度量门禁(防全零张量过 tolerance、防锁频/Cache 未清虚高)。

4. 信弘天禾 / QR vs 编译器 / 两个个人项目的终局拍板(修正 #4、#8、#9 + 考量 #1、#4)

  • 彻底放下对 QR 的 FOMO(错失焦虑):
    • 连已经在信弘天禾里拿着集群跑 AlphaEvolve / SkyDiscover 的 LCQ 都对你交了实底——模型进化上实盘过拟合、基本没产出真实收益;而 OpenReview 7 月审计论文也实锤了 LLM 挖 Alpha 的搜索调整夏普压力测试过拟合困境;
    • 信弘天禾全职 QR 笔试是开摄像头现场手写硬核概率统计/数理推导,而你本科偏 CS、数学忘掉大半、甚至对 O(ln n) 极值尺度都没直觉 [修正#4,#8]。现在硬转 QR 是拿自己的短板去跟清北数学/统计卷王拼刺刀,属于负期望赌博;
    • 哪怕去顶级量化(如信弘天禾、WizardQuant 明确招 C++/高性能计算/编译器 岗),你最值钱的切入口依然是 Quant Infra / Factor DSL Compiler,而不是纯 QR。
  • 不过,2026~2027 年顶级 AI Infra(DeepSeek / ByteDance Seed / 阿里 / 月之暗面)才是你的绝对主场:
    • Epoch AI 今年 7 月统计了中国六大头部大模型实验室的社招/校招要求:平均经验要求仅 1.6 年(美国是 5.5 年),且 DeepSeek 算子/编译器岗明确写着欢迎扎实热情的年轻工程师;
    • 2026 年 AI Infra 四象限调研中,象限 A(算子/编译器架构师)拥有最高天花板(3–5年 120–220w),且「昇腾/国产异构适配 + CUDA」已是国内头部大厂硬性稀缺项!
  • 两个个人项目的明确排期(砍掉内耗,集中火力):
    1. OliverCWY/proxy(纯 Rust 零锁代理池):** 用接下来 1 个周末极限收官封版(v0.1.0)**!把 memchr + httparse 零拷贝、ArcSwap + CAS 惰性压缩和 SO_REUSEPORT 基准写完打 Tag,立刻作为简历上展示你 Rust 高并发工程能力 & 低延迟系统直觉 的成品,绝不再多花第二个周末。
    2. 跨 GPU 端到端 Tile 编译器(tilec:CUDA + Intel Level Zero + PlanMemory + GSS + 静态验证):** 未来 4 个月的唯一主线个人代表作**!它能补齐你简历上唯一的硬伤——缺乏公开可运行的高性能 CUDA/GPU 编译器代表作,同时让你把没亲手写过的 PlanMemory、GSS 和静态同步/边界验证从头到尾刻成肌肉记忆!
    3. 量纲/因果检查的 Quant Factor DSL:** 先挂起**,等明年春季如果确实决定多投几家头部量化 Infra(WizardQuant / 九坤 / 信弘天禾)时,再花 2 周写一个紧凑的 Rust AST + 前缀不变性校验小工具即可,绝不现在分心。

三、给「无任何上下文」的 Deep Research Agent 的完整提示词

使用说明:下面的提示词已完全脱敏且 100% 自包含(Zero Prior Context Required),把你的全部真实背景、9 条事实修正、4 条核心思考、技术痛点(特别是 VF 融合与硬件乱序队列/栈上限、NPUIR 优化残缺、形式化验证、信弘天禾/LCQ 实情、两个个人项目状态)以及严苛的防幻觉检索约束全部封进了任务书里。直接全选复制粘贴给任何 Deep Research Agent 即可运行。

markdown
# 深度研究与双报告生成任务书(零前置上下文全量版) 请扮演一位**兼具顶级 AI 编译器/GPU&NPU 架构专家、AI Infra 猎头级职业参谋、以及严苛学术审计员**角色,执行一次全网最新资料(截至 2026 年 11 月)的深度调研,并最终为我产出**两份完全独立、定位截然不同的正式报告**。 --- ## 第一部分:完整背景与客观事实约束(请逐条严格对齐,严禁臆测或擅自篡改事实) ### 1. 我的个人履历与技术底牌 - **教育与竞赛背景**:本科毕业于一所知名名校(具备海外顶尖 CS 教育背景,信息学/数学/物理竞赛获奖底色,本科课程更偏计算机系统与工程,大学高阶数学课程目前已遗忘大半);硕士毕设方向为扩散模型表征可解释性与空间密度探针(获 First Class Distinction)。 - **过往经验与代码风格**: - 曾在初学 Rust 时 4 天手搓 8,000 行 Lua 解析器、AST 常量折叠编译器、字节码 VM 与转译器; - 曾在百亿量化私募「信弘天禾」实习(负责投研分析平台与分布式训练流水线开发、报表算术口径审计,未深度从事纯 Alpha 策略研究)。 - **个人认知与工作习惯**:极度偏直觉驱动——看代码/做 Code Review 时往往先凭直觉嗅到异常或优化机会,再去查证核实(存在一定误判率),渴望在工程上建立更系统化、可证伪的严谨推断闭环。 - **当前在职处境(关键约束)**: - 自 2025 年 11 月入职某大型硬件/通信公司(现已工作满 1 年),**职级较低(15 级,而发起新方向的直属领导为 19 级,个人在组织层面话语权有限)**。 - 核心职责:担任基于 MLIR 的 **`triton-ascend` 与 `AscendNPU-IR`(`bishengir`)** 研发工程师,以及 **`DynamicCVPipeline (DCV)`**(动态 Cube-Vector 跨核异步流水线)模块的 Code Reviewer。 - **本职真实战绩(注意精确边界,严禁夸大)**: 1. 主导混合算子自动拆核、多缓冲槽位与硬件同步调优,带来核心算子端到端性能提升; 2. **通过重构 `DCV (DynamicCVPipeline)` 的输出表达使其能够驻留 `L0C` 累加器**(注:底层 `PlanMemory` 本身由其他子团队负责实现,我本人并未从零手写或全面重构 `PlanMemory` 和 `GraphSyncSolver (GSS)`,仅大体理解其逻辑),成功消除 `L0C <-> UB` 往返与临时缓冲,解决了 FlashAttention 反向及大型生产算子的 UB OOM 问题; 3. 基于 MLIR `RegionBranchOpInterface / LoopLikeOpInterface` 实现声明式计算核类型(AIC/AIV/Mix)数据流不动点格传播框架; 4. 手写函数参数感知的指针溯源别名分析器(Alias Analysis),根治异步 DMA/Vector 竞态;内聚迁移 `CATLASS` 矩阵乘模板库。 ### 2. 我当前面临的组织现实与领导诉求 - **领导风格与历史败绩(真实调研约束)**: - 19 级领导倾向于“看到行业热点(如英伟达在做什么)就立刻跟进立项”,或认为某处有问题就直接下令攻关,常缺乏前置可行性论证; - 曾提出“不要对现有实现有敬畏之心,要站在高于他们的视角”,要求几个硕士生从**传统确定性算法角度优化 `ccec` 后端寄存器分配器**以超越 LLVM——该项目已破产失败(当时我曾建议模仿 Google MLGO 训练针对昇腾的轻量 ML 启发式模型,被领导以“没必要”否决); - 也曾试图**用图着色(Graph Coloring)重写/优化 `AscendNPU-IR` 的 `PlanMemory`**——先追运行性能失败,转而追编译速度仍失败(因带容量约束的区间内存规划属强 NP-Hard 问题,随机/启发式搜索已是现实边界),目前已破产。 - **当前新动向**:领导最近听说“英伟达也在搞 AI 编译算子”,打算立项“AI 编译算子”,内心倾向于**“端到端直接生成(甚至直出 `AscendC` 或底层指令)”**。 - **内部工具链现实约束**:`AscendNPU-IR` 目前的编译器优化 Pass 并不全面、不够成熟;如果仅模仿 NVIDIA CompileIQ 去调编译器有限开关,收益天花板很低(甚至不如直接做传统 autotune)。 ### 3. 我个人对技术路线的核心设想与困惑(必须深度剖析!) - **我目前的初步分层构想**: 模仿 `TA (Triton-Ascend)`,但上游改从 **纯 PyTorch 函数 / 数学公式** 起步(而非 Triton 指针算术,用户体验更好且方便 AI/人工手调)$\to$ `Tile` 语义 $\to$ `NPU-IR`(Tile $\to$ 片上 Mem)$\to$ `ccec`(Mem $\to$ 硬件指令),每一层 AI 原则上都可被现有确定性工具替换: - **L1**:将纯 PyTorch 函数翻译为干净的 Tile 语义,并决定按什么维度切分(疑问:*是不是现有框架的算子融合已经优化得很好了,L1 在融合上的增量空间有多大?*); - **L2**:决定异步流水排布;并且 L1 与 L2 需要根据 `NPU-IR` 反馈的内存复用情况与 `SetFlag/WaitFlag` 同步状态不断迭代更新各自决策; - **L3(可选,我最想让 LLM 探索的核心点!)**:** 昇腾 950 RegBase 的 `VF`(Vector Function)融合/拆分策略**(必须考虑**硬件乱序发射队列上限 / 栈溢出风险**等真实微架构约束)+ **启发式/LLM 审查决定哪些 Buffer 可以安全复用**。 - **核心困惑**:感觉 L1、L2、L3 在物理上其实根本“不分家”,尤其是把 L3 的 `VF` 融合考虑进来以后,改一次 VF 融合/拆分边界会直接改变寄存器驻留、UB 临时缓冲寿命和同步需求,进而反噬 L2 流水与 L1 切分。同时我也明确希望引入**形式化验证 / 自动化验证**来兜底 AI 生成算子与优化的正确性,但不知从何切入最务实。 ### 4. 我的职业备选与两个个人项目现状 - **百亿量化私募「信弘天禾」的真实动向(基于朋友 `LCQ` 2026年3–7月的一手交流)**: - `LCQ`(原做 TVM,现负责信弘天禾集群化模型/因子进化搜索,已从 DeepMind AlphaEvolve 思路转向 UC Berkeley `SkyDiscover`)明确表示:团队此前尝试将 AlphaEvolve 类 LLM 进化搜索用于量化模型搜索并实盘上线,但**目前在实盘上过拟合严重、几乎未产生真实经济收益**;他认为这套方法更适合带**量纲检验与未来时间泄露检查**的因子表达搜索(我此前实习和今年考虑跳槽时曾与他聊过一个类似 Triton 的因子 DSL 想法,还特意去查过随机序列最大值 $O(\ln n)$ 性质来套话,实际上我自己并不具备深厚的量化数理直觉)。 - `LCQ` 4 月曾问过我杭州一家获近 30 亿融资的推理 GPU 芯片创业公司「曦望(Sunrise)」的机会,我也嫌创业公司偏不稳定。 - **我的纠结**:信弘天禾也有意向招揽我,但我对 **QR(量化研究)** 几乎没系统了解且大学数学已忘大半,如果转 QR 成就感挺好但不知是否时机已晚、胜算几何;而 **QD(量化开发)** 感觉不如做编译器有趣;同时在当前团队,由于领导好高骛远且个人职级低(15 vs 19),我在犹豫是否应尽早规划跳槽(目标备选:** 字节 Seed / DeepSeek / 头部 AI Infra 编译器组 vs 量化 Infra / Quant Compiler vs 留任观察**)。 - **两个个人开源项目现状**: - **项目 1**:纯 Rust 高性能零锁网络代理池(核心协议已通,剩最后一个周末的模块化整理与基准收尾,尚未完全封版); - **项目 2**:跨 GPU(NVIDIA CUDA + Intel Level-Zero 核显等)的端到端轻量 Tile 编译器(涵盖静态片上内存规划 `PlanMemory`、双缓冲流水线与自动同步求解器 `GSS` —— **我工作上未亲手写过这两个核心 Pass**),目前尚未正式动工。 --- ## 第二部分:必须检索核实的 2026 最新行业与技术证据 请基于截至 **2026 年 11 月** 的公开论文、官方技术文档、开源仓库与行业实况,重点核实以下 6 个核心问题(严禁引用无法核实或过时的旧认知,任何结论均需标明来源与证据边界): 1. **AI 编译算子 SOTA(NVIDIA、Meta、学术界与昇腾生态 2026 实况)**: - 核实 NVIDIA 的实际路线:`CAKE`(Compiler-Agent Co-Design)、`AVO`、`cuTile / tileiras`(三层 MLIR 方言降级)、`CompileIQ`(ACF 参数搜索)与 `PTXBench`;Meta `PyTorch Helion`(含 2026 年最新静态启发式与 LLM Autotuning)与 `KernelAgent`;蚂蚁/阿里 `FusionAgent`、`Atrex-Kernel-Agent`;字节 `CUDA Agent`; - 核实昇腾生态公开进展:`CANNBot` / `CANNBot-CAKE`(950PR)、`CANNBot-DSL` / `PyPTO` / `PyPTO Pro`(PANKO)、`ForgeKernel`、`ATRL`、`AscendCraft`、`AscendOptimizer`、`MindSpore AKG-Agent` 与 `CANN-Bench 2.0` 的真实竞争格局; - **重点核实**:`AscendNPU-IR` 中 **`HFusion`、`HIVM`、`AVE` 方言以及 `VF`(Vector Function)融合/拆分**的真实机制(如 `-hfusion-merge-vf`、`vf_fusion_mode`、`enable_vf_stack_limit`、950 RegBase 硬件乱序队列上限导致大循环 IPC 暴跌的物理机理,以及 `PlanMemory` 三级复用策略对多流水线依赖的反噬)。客观评估:** “L1 算子融合是否已经优化得很好了?”“L1/L2/L3 联合耦合优化 vs 领导想要的端到端生成,真实可行性与优劣到底是什么?”** 2. **形式化验证与可信评测底座(不走通用汇编证明的死路)**: - 核实 2025–2026 最新加速器/GPU 验证进展:`AccelSync`(针对昇腾等加速器流水线的静态同步覆盖验证)、`VOLTA`、`Racer`、`KernelAudit`、`KernelBench-Verified`,以及华为开源 `msSanitizer` 的能力与盲区; - 给出一个 **15 级工程师单兵可落地、有论文级/开源级方法论** 的分层验证设计(静态 IR 边界/对齐/别名/同步覆盖 + 动态 Sanitizer + 反事实/蜕变数值测试 + 防作弊 Benchmark)。 3. **15 级面对 19 级好高骛远领导的政治生存与立项策略**: - 评估:应不应主动接这个项目?如果接,如何**既不接“端到端超越成熟编译器”的无限死命令、又能拿到高含金量模块主导权**?如何利用公开的 2026 业界证据“温柔纠偏”领导对“AI 替代底层算法 / 一键直出 AscendC”的幻想? 4. **个人职业路线深度推演(AI Infra 编译器 vs 量化 QR/QD/Quant Infra)**: - 评估去「信弘天禾」等头部私募做 **QR**(结合其当前 AlphaEvolve 实盘过拟合现实、数学遗忘现状、QR 笔面试门槛与 2026 机会成本)、做 **QD / 量化因子编译器(Factor DSL)**,对比留在大模型/系统赛道冲刺 **DeepSeek / 字节 Seed / 头部 AI Infra 算子与编译器岗** 的胜率、薪资天花板、技术复利与风险。 - 分析干满 1 年 vs 1.5 年跳槽的真实市场影响,以及如何把我现有工作经历(`triton-ascend`、`DCV -> L0C`、MLIR Lattice、参数感知 Alias Analysis)与新项目经验包装成跨平台可迁移的核心履历。 5. **我的两个个人项目(Proxy 与跨 GPU 编译器)+ 因子 DSL 的取舍优先级**: - 结合上述职业定位与周末有限精力,给出冷酷客观的时间分配与取舍建议,防止多线分散烂尾。 6. **直觉驱动型工程师的系统化方法论改造**: - 针对“看代码先靠直觉嗅异常再查证,但误判多、系统推演弱”的特点,给出能直接融入编译器日常和 Agent 协作中的工程习惯改造方案。 --- ## 第三部分:输出格式要求(必须严格拆分为两份独立交付物) ### 交付物一:《AI 原生昇腾算子生成与编译器协同试点立项建议书》(面向 19 级领导的向上汇报版) - **基调要求**:专业、建设性、向上管理高情商(不吐槽过往失败、不直接顶撞“端到端”愿景,而是**用业界 SOTA 把“端到端”重新定义为“用户体验端到端,内部走分层白盒协同+可信验证闭环”**),突出 **“复用现有 `AscendNPU-IR` / `PyPTO` 资产”、“低试错成本”、“2 周出可量化 PoC”**。 - **必须包含**: 1. 2026 业界真相速览与对标结论(英伟达 `CAKE / CompileIQ / tileiras`、Meta `Helion / KernelAgent`、阿里 `Atrex / FusionAgent`、昇腾生态 `CANNBot / ForgeKernel / AscendCraft` 的核心数据对比——用客观数据自然封堵“纯端到端吐 AscendC”与“重写底层 NP-Hard 分配器”的死胡同); 2. 我方差异化切入方案:**“外层端到端 + 内核白盒三层耦合协同(Tile/Fusion × Pipeline/UB × RegBase VF 融合边界)+ 分层可信验证门禁”** 的清晰架构图与编译器诊断闭环机制; 3. 克制、可证伪的短中长期里程碑(**2 周 PoC、2 个月 MVP、6 个月演进方向**),明确对比基线(确定性编译器默认配置 + 传统 Autotune + 已有 Agent 基线)与防作弊评测指标; 4. **我个人明确申请承担且边界可控的核心模块职责**(`NPU-IR` 结构化资源与 `VF`/流水诊断接口 + 分层可信验证门禁); 5. 一段可直接用于群内汇报或一对一沟通的高情商话术/简短立项摘要。 ### 交付物二:《个人内部深度推演、技术破局与 6–12 个月职业战略报告》(仅供我个人决策,绝对坦诚、高信噪比、反内耗) - **基调要求**:知无不言、冷酷算账、拒绝鸡汤和情绪化结论,严格区分**已证实事实 vs 工程推论 vs 未知证据边界**。 - **必须包含**: 1. **职场与组织研判**:团队真实成色评估、15 级面对 19 级“追风口领导”的**接盘条件清单与撤退红线**(什么情况下接模块 PoC,什么情况下坚决止损提桶跑路,1 年 vs 1.5 年跳槽周期的利弊权衡); 2. **三层 AI 架构与 `VF` 融合的硬核白盒设计细节**:深度拆解 L1(PyTorch $\to$ Tile)、L2(流水与 `PlanMemory` 复用)、L3(`VF` 融合/拆分与硬件乱序上限)为何物理耦合、为何不宜拆成三个黑盒 LLM,以及可落地的联合搜索动作空间与编译器反馈 JSON 契约; 3. **形式化验证与直觉方法论工程化**:如何把 `AccelSync` 风格静态同步覆盖 + 有界仿射/32B 对齐 SMT(`PROVED / FAIL / UNKNOWN` 三态)+ `msSanitizer` + 蜕变数值测试做成最小可用 PoC;顺带给出将“直觉驱动+高误判”改造为“假说—不变量—反例验证循环”的实操习惯模板; 4. **职业终局对比算账(AI Infra/编译器 vs 量化 QR vs QD/因子 DSL)**:结合信弘天禾实情、数学遗忘现实、2026 国内头部 AI 实验室与量化机构招聘画像,给出明确优先级排序、以及将现有昇腾经历(`DCV->L0C`、MLIR Dataflow、Alias Analysis)无痛迁移至 CUDA/AI Infra 简历的标准话术; 5. **两个个人项目的最终处置令 + 未来 6 个月执行时间表**:精确到月/周的精力分配,明确 Proxy 项目的收官边界、跨 GPU 端到端编译器(补齐 `PlanMemory/GSS` 亲手实战短板 + CUDA 生态敲门砖)与量化因子 DSL 的取舍顺序。

把上面这段提示词直接喂给无上下文的 Deep Research Agent,它既不会漏掉你任何一条细腻的真实约束(包括 15 vs 19 职级、L0C 修改真边界、VF 融合与乱序队列、和 信弘天禾 的真实底牌),也不会在没核实过的地方乱吹牛,一次性把「向上汇报档」和「私人战略档」全给你高质量吐出来!


针对这个进行一下你的 deep research

Réflexion

研究规划

我会把这项工作拆成两份报告:一份面向架构与系统设计,另一份聚焦推理性能、成本和可行性。我将核查公开资料、论文与工程案例,并标注不确定结论。

Planned the research

Réponse

我会按你给的任务书做一次独立核查,而不是直接沿用前一版的结论。先查论文、官方文档、代码仓库和榜单,尤其验证 VF 融合、AccelSync 与 CANNBench 的关键说法;再分别形成面向领导的立项建议书和仅供个人决策的战略报告。未经证实的数据会明确标注,不会拿来支撑决策。

Réflexion

Searched 8 websites

Réflexion

Listed available conversation files

Réflexion

Searched 17 websites

Réponse

目前最有价值的核查结果是:VF 的三种融合策略、栈限制开关和 PlanMemory 三级复用都有官方文档依据;AccelSync 的理论与实验结果也确实存在,但不能直接外推到 950。另一方面,KernelAudit 的重点是审计验证器是否遵守任务契约,不是现成的 NPU 形式化证明器。我会把这些边界落实到 PoC 的接口和验收标准里。

Réflexion

校准研究重点

我会继续核对 CANN、推理优化、招聘信号和行业薪酬数据,尤其区分官方事实、招聘推断与个人经验。数学表述也会单独校准,避免把不严谨的结论直接写进报告。

Calibrated research priorities

Réflexion

综合评估

我已经把研究重点收敛到两条主线:架构边界与性能证据。接下来我会明确哪些结论有公开验证、哪些只是工程假设,并据此形成可执行的两份报告。

Completed a comprehensive evaluation

Searched 45 websites

Réponse

职业部分也查到了一个需要纠偏的点:Epoch AI 的“国内 1.6 年、美国 5.5 年”来自招聘启事的最低经验要求,并不是实际录用者的平均资历;论文和招聘资料也不能推出个人成功率或固定薪资区间。与此同时,DeepSeek 目前确有“高性能算子/通信/编译器工程师”公开岗位,量化机构也确有匹配系统与高性能工程的职位。接下来会据此做机会成本比较,而不是用未经验证的薪资数字算账。

Réflexion

Searched 22 websites

Réponse

两周试点方案已经落到了可验收的基线、诊断接口和责任边界。个人报告里我还会特别处理一个容易被忽略的风险:即使联合搜索有效,也不意味着要在个人项目中复刻整个昇腾编译栈。公开项目更适合先把 CUDA 上的 PlanMemory + 同步求解 + 验证 做成可复现的最小闭环,再考虑 Intel 后端。

Réflexion

Writing report two

I’m structuring the second report around compiler boundaries, proof obligations, falsification, benchmarking, and team incentives. I’ll separate implementable mechanisms from proposals requiring hardware or compiler confirmation.

Wrote report two

Réponse

技术推演已经明确了一条边界:VF 不是“融合越大越好”,但也不能把某个 COS 微基准的 IPC 或指令条数当作普适硬件阈值。更可靠的做法是将这些量作为编译器估算与性能剖析的待校准特征。个人报告的下一部分会给出可以落地的 JSON 契约、三态静态验证规则,以及半年执行与转岗决策表。

Réflexion

Worked for 5m 14s

Réponse

Text version

2026 AI 算子编译、昇腾 RegBase 技术路线与个人职业战略:独立深度研究

研究基准日:2026 年 11 月 14 日|证据范围:公开论文、官方编译器文档、开源仓库、公开榜单与招聘信息

研究总判断

这次独立核查已经确认:你提出的 「Agent 联合探索 Tile、Pipeline、VF 融合边界,由确定性编译器提供反馈,并由独立验证器把关」,有充分的技术依据,而且与 2026 年的部分前沿研究方向一致。

但我不会把它直接判定为最优路线。这里需要区分三个问题:

  1. 架构是否合理? 合理。VF 融合、片上内存规划与流水调度存在可解释的资源耦合,局部决策不能仅按单个 Pass 的目标优化。
  2. Agent 是否必不可少? 尚未证明。联合搜索的收益必须超过规则启发式、传统 Autotune 和编译器现有策略,才值得引入更昂贵的 Agent。
  3. 这是否值得你接手? 值得争取诊断、验证和有限搜索接口的模块 Ownership;不值得仅凭架构合理性就承诺建设完整 AI 算子编译平台。

首先纠正前一版分析中的几个证据边界

原先的论断独立核查结果
VF 有不同融合模式及栈占用保护已证实。Triton-Ascend v3.6.0 文档列出 vf_fusion_mode 的三种模式和 enable_vf_stack_limit。(triton-ascend.readthedocs.io)
PlanMemory 的三级复用会影响跨流水线并行已证实。官方文档详细说明 Level2 同流水线优先、Level1 双缓冲保护及 Level0 最大化生命周期复用。(ascendnpu-ir.readthedocs.io)
大 VF 一定因 30 多条指令触及 OoO 队列上限、IPC 降至 1.22不能当作普适硬件定律。公开资料支持长 VF 可能因指令压力、依赖和 I-cache 等因素损害性能,但具体阈值及 IPC 数字需要对应硬件、指令序列和测量条件。(www.hiascend.com)
AccelSync 已证明昇腾 950 上的同步验证完整性需要收窄。论文真实存在,给出模型内的 soundness/completeness 证明,但公开实验实例化的是 Ascend 910B2 和 MLU370,不能直接认定已覆盖 950 RegBase。(arxiv.org)
CANNBench 2.0 榜单足以证明结构级 Agent 必然优于编译器参数搜索证据不足。榜单是真实的,但队伍名不等于经过严格控制的算法类别;缺少统一模型、预算、人工介入程度的消融,不能从名次直接得出因果结论。(cannbench.com)
形式化验证和可信 Benchmark 已有可借鉴路线已证实。AccelSync、KernelAudit 和 KernelBench-Verified 分别提供同步覆盖、验证器契约审计及更严格性能评测的重要参考。(arxiv.org arxiv.org github.com)

另外,有一个重要的材料边界:当前对话中没有实际附上 信弘天禾.txt 文件。因此,私人聊天内容只能作为你提供的个人背景陈述使用,不能声称已经重新审核原始聊天记录,也不能把其中涉及朋友、私募实盘收益或组织行为的说法当作公开验证事实。

以下将分别给出两份可独立阅读的报告。第一份只使用适合向上汇报的论据,第二份则纳入个人背景、职业风险、技术细节和取舍判断。


报告一|AI 原生昇腾算子生成与编译器协同试点立项建议书

汇报对象:编译器与 AI 算子方向负责人|建议性质:两周技术可行性试点,不预设平台立项结论

一、执行摘要

建议开展一个以 Ascend 950 RegBase 为重点、复用现有 Triton-Ascend / PyPTO / AscendNPU-IR / ccec 资产的 AI 原生算子协同优化试点。

对用户而言,目标是从 PyTorch 算子或明确的数学语义出发,自动获得经过正确性验证的高性能实现;对内部而言,不要求模型绕开成熟编译器直接生成底层指令,而是允许 Agent 在可检查的中间表示上联合提出 Tile/Fusion、异步流水和 VF 融合边界等优化建议,由编译器负责合法性检查、资源规划、代码生成和诊断反馈。

核心立项原则:端到端的是用户体验,白盒协同的是内部实现。

第一阶段只解决三个问题:

  1. 现有编译器能否输出足够解释性能差异的结构化诊断?
  2. 联合调整 VF 边界、流水与 Tile,能否比确定性启发式及传统 Autotune 获得额外收益?
  3. 能否建立成本可控的正确性门禁,让自动优化过程不会以牺牲语义、安全性或评测公正性换取速度?

两周后根据数据决定扩大、收缩或终止方向,避免在技术收益尚不清楚时提前建设平台。

二、2026 年业界对标:竞争重点已经从「会生成代码」转向「可验证、可诊断、可持续优化」

路线有代表性的公开证据对本项目的启示
NVIDIA CAKEAgent 编辑硬件显式的类型化 IR;编译器返回验证、成本模型和局部诊断。在 B200 的特定 Flash-KMeans 对照中,80M-token 搜索预算下 CAKE 达到调优基线的 1.144×,直接 CUDA/PTX 路线为 0.928×。(arxiv.org)不宜把「直接吐底层指令」当唯一方案;诊断与 IR 约束本身是竞争力
NVIDIA AVO / CompileIQ前者强调持续、实验驱动的 Kernel 迭代;后者探索编译参数搜索。收益与编译器已有可控参数及工作负载强相关。(arxiv.org developer.nvidia.com)参数搜索可作廉价基线,不能预设其替代结构级优化
NVIDIA cuTile / tileirasNVIDIA 已公开 CUDA Tile 相关语言与 MLIR 基础设施。(docs.nvidia.com github.com)Tile 是人、Agent 与编译器之间较合适的协作语义层;不意味着必须复刻其完整架构
Meta Helion / KernelAgentHelion 结合静态启发式与自动调优;KernelAgent 结合生成、运行反馈和迭代优化。结果取决于测试集、基线及硬件。(pytorch.org pytorch.org)高层入口与搜索是可行方向,但需要严格预算和泛化测试
阿里 Atrex-Kernel-Agent、字节 CUDA Agent均体现生成—编译—运行—修正的工程闭环,并重视基准、轨迹与验证。(github.com arxiv.org)真正可迁移的是闭环工程,而非某一种提示词
昇腾 AscendCraft / AscendOptimizer / AKG AgentAscendCraft 报告 98.1% 编译成功、90.4% 功能正确,但其性能统计使用特定参考基线;AscendOptimizer 报告 127 个算子、约 1.19× 几何平均收益。(arxiv.org arxiv.org github.com)昇腾已有多个可复用方向,必须先做技术复用与差异化定位
PyPTO / CANNBench 2.0PyPTO 已提供 Tensor、Tile、Block 分层与面向 950 的演进;CANNBench 2.0 Beta 包含 60 个算子、1200 个测试实例和分级任务。(github.com gitcode.com cannbench.com)不应另起炉灶构建完整 DSL 或以单个排行榜数字代表生产收益

尤其值得注意的是,CANNBench 不支持仅凭队名给技术范式排名。公开页面不同任务子集的排序并不一致:Level 3 中 ForgeKernel 和 PyPTO 路线表现很强;Level 5 中领先者和性能分布发生了变化。不同覆盖率、正确性通过率与测试子集的 speedup 不可直接混算。(cannbench.com cannbench.com)

因此,本试点不应以「再造一个通用 CANNBot」为目标,真正差异化在于:

将现有编译器内不容易对外观察的资源约束和失败原因,转化为 Agent 可消费、工程师可审计的诊断证据。

三、建议技术架构

mermaid
flowchart TD A["用户输入:PyTorch / 数学语义 / 已有算子"] --> B["语义与 Shape 契约"] B --> C["受约束候选生成"] C --> D["联合决策:Tile × Pipeline × VF Boundary"] D --> E["确定性编译器:HFusion / HIVM / ccec"] E --> F["资源与同步诊断接口"] F --> C E --> G["静态合法性与同步验证"] G --> H["动态 Sanitizer + 数值及边界测试"] H --> I["可信 Benchmark 与回归"] I --> J["选优 / 保留基线 / 输出可复现实验"] J --> C

试点架构示意。搜索器只提出合法优化空间内的候选,最终内存地址、同步落地和指令生成仍由确定性工具链控制。

架构中的三层不是三个彼此独立的 Agent,而是三个决策维度:

决策维度关键动作主要反馈
L1:Tile / 融合Tile shape、计算块划分、允许的跨算子融合边界数据复用、并行度、资源需求、边界处理成本
L2:Pipeline / 片上内存流水阶段数、双缓冲、异步预取与等待位置的约束UB/L1/L0C 峰值、同步依赖、流水停顿、OOM
L3:RegBase VFVF split / merge、融合规模上限、寄存器与栈约束VF 数量和规模、临时 Buffer、寄存器/栈估算、实际吞吐

这种联合设计有现实依据。Triton-Ascend v3.6.0 已存在三种 vf_fusion_mode(max-parallel、all-op、ub-aware-op)和 enable_vf_stack_limit;AscendNPU-IR 的 PlanMemory 明确在内存复用率与并行执行之间权衡。(triton-ascend.readthedocs.io ascendnpu-ir.readthedocs.io)

但必须强调:第一阶段不是让 Agent 任意修改内存别名或硬件同步指令。 Agent 可提出复用偏好、流水约束和 VF 边界;编译器必须有否决权。否则自动生成系统会把本应由合法性分析承担的安全责任转交给概率模型。

四、技术突破口:建立结构化的 NPU-IR 诊断反馈

建议优先暴露五类指标:

  1. 资源:UB / L1 / L0C 峰值占用、buffer scope、生命周期、双缓冲份数、OOM 原因。
  2. VF:融合组、指令规模、拆分位置、栈占用估计、跨 VF 临时数据搬运。
  3. 流水:依赖图、预期 overlap、实际插入的 SetFlag/WaitFlag、关键同步边。
  4. 内存复用:PlanMemory 所选 Level、候选冲突边、为何不能复用、是否牺牲跨流水线并行。
  5. 结果:编译成功率、诊断稳定性、正确性状态、性能分布、失败归因。

输出采用带编译器版本和设备型号的稳定 JSON 契约,使规则启发式、LLM Agent、离线 Autotune 以及人工分析使用相同证据,降低路线锁定风险。

尤其需要避免把 编译期估算值 当作 硬件实测值。例如 VF 栈估算可以先导出,乱序队列是否成为瓶颈则应由相应设备的性能计数器、对照微基准和可解释的性能变化确认。

五、验证门禁:让正确性成为优化过程的前提

建议按成本从低到高分成四层:

层次主要检查失败处理
静态 IR 规则类型、shape、内存 scope、合法 alias、仿射边界、对齐确定违反规则则拒绝
同步覆盖分析DMA / Vector / Cube 相关读写的先后关系与同步覆盖发现潜在 race 则拒绝或标记待确认
运行时验证msSanitizer、越界、竞态、未初始化、同步异常失败候选不参与排名
数值及评测审计多输入分布、特殊值、边界 Shape、结果完整性、真实性能度量未全部通过不得计入加速收益

AccelSync 证明了对特定加速器流水线事件模型,静态同步覆盖检查可进行高效形式化分析;但其公开验证对象不包括 950 RegBase,因而应作为方法论参考,而非直接宣称已具有适用于 950 的完备验证器。(arxiv.org)

KernelAudit 和 KernelBench-Verified 则提醒我们,必须同时审计优化结果的语义、验证程序本身与计时过程。(arxiv.org github.com)

六、两周 PoC:用小预算回答大问题

建议限定 两个算子家族、若干代表性 Shape、单一硬件型号与固定编译器版本。优先选择一个对 VF 融合敏感的 Vector 算子和一个对流水、UB/L0C 资源敏感的混合算子。具体算子应由已有 benchmark、现存性能问题和可用硬件共同决定。

第 1–3 天

基线固化:固定代码、设备、CANN/驱动版本、测试输入、性能测量方法;建立默认编译器与传统 Autotune 基线。


第 4–6 天

诊断最小集:导出 VF 组、UB 需求、关键同步信息、编译失败原因;优先做已有 Pass 的观察接口,不重写 PlanMemory。


第 7–9 天

小型联合搜索:先使用枚举、规则或 Bayesian/进化搜索;LLM 提议器作为独立消融项加入,不让模型自行修改验证器。


第 10–14 天

结果复测与决策:报告性能收益、正确性覆盖、搜索成本、无收益案例及瓶颈归因,决定是否扩大试点。

四组最重要的可比基线是:

组别作用
B0:默认确定性编译器衡量新增系统是否比现状好
B1:传统 Tile/流水 Autotune衡量联合搜索是否仅复现已有参数搜索收益
B2:确定性 VF / UB-aware 规则 + Autotune衡量 Agent 是否真正增加决策质量
B3:相同编译预算下的 Agent 联合搜索衡量 Agent 的边际价值

如果有可运行的既有 CANNBot 或其他 Agent 实现,可以增加 B4,但必须统一测试 Shape、编译工具链和预算。

建议采用以下立项门槛,而不是提前承诺提速百分比:

  • 正确性:所有进入最终性能排名的候选必须通过所定义的完整测试集合。
  • 性能:在至少一个明确的目标算子家族上,B3 相比最强的非 Agent 基线取得可重复、超出计时噪声的收益。
  • 成本:统计每次搜索的编译次数、设备分钟数、Token 成本及失败率。
  • 泛化:至少保留未参与搜索的 Shape 和输入分布作为留出集。
  • 可解释性:对主要获胜和失败案例能回溯到具体 IR 决策、资源变化和性能证据。

上述标准是本建议书提出的验收条件,不是业界已经保证可以达到的指标。

七、两个月 MVP 与六个月演进

阶段可交付内容是否继续的条件
2 周:PoC诊断 JSON v0、最小验证门禁、受限搜索、四组基线对比数据显示存在可重复增益或明确的诊断复用价值
2 个月:MVP稳定诊断 API、若干算子家族、静态/动态验证流水线、回归 Dashboard跨 Shape 泛化、维护成本与编译开销在可接受范围
6 个月:有条件演进更丰富的 Tile 入口、资源成本模型、学习式候选排序、服务化工具接口MVP 被使用方验证存在持续需求及性能价值

若两周后未证实 Agent 搜索有增量价值,诊断与验证模块仍可独立服务现有编译器优化、Autotune 和算子开发;不应为了证明 AI 路线成功而强行扩大系统。

八、建议的责任划分与资源申请

试点应由方向负责人统一承担平台目标和资源协调,并明确三类责任:

责任主体建议职责
方向负责人 / 项目 Owner跨团队协调、硬件配额、总体路线、成果验收与后续立项
编译器/算法相关团队既有 Pass 的正确性与实现维护、编译器优化、搜索策略
申请承担的模块 OwnerNPU-IR 资源与 VF/流水诊断出口,以及分层验证门禁的集成和证据契约

建议个人承诺边界限定为:

交付:稳定诊断接口、诊断示例、静态规则与验证集成、可复现实验协议、失败案例归因。

不单独承诺:重写底层分配器、实现通用 PyTorch 前端、覆盖所有设备型号、完成所有 Pass 优化、保证超越人工优化器或对任意生成代码证明等价。

同时需要明确获得测试硬件、必要的编译器内部诊断访问权限,以及可被其他团队复用的接口维护机制。

九、可直接使用的简短立项话术

:::writing{variant="chat_message" id="82741"} 我看了下今年 NVIDIA CAKE、Meta KernelAgent,以及昇腾生态 PyPTO 和 CANNBench 的最新进展,感觉我们可以把“AI 端到端生成算子”的目标做得更扎实一些。

对用户保持端到端体验,但内部尽量复用现有 NPU-IR 和 ccec 的确定性能力,让 AI 重点探索 Tile、流水及 950 RegBase VF 融合这些互相影响的结构决策。

我建议先用两周做一个小 PoC,不急着另起完整平台。重点看三个指标:相对现有 Autotune 有没有可重复的增量收益、编译器能否反馈具体资源瓶颈、自动生成的正确性是否能用静态和动态门禁兜住。

我这边愿意重点承担 NPU-IR 的 VF/资源/流水诊断接口,以及验证门禁集成。这两个模块本身也是可复用的基础能力。两周后用数据决定是否扩大到更多算子和更高层的自动生成。 :::

立项建议结论: 批准受限试点,但将是否建设全面 AI 编译平台设为后续决策;优先投资诊断能力、评测可信度和确定性工具链复用,而不是提前承诺端到端生成能够取代现有底层编译器。


报告二|个人内部深度推演、技术破局与 6–12 个月职业战略报告

仅用于个人决策|基准日:2026 年 11 月 14 日|重点:技术复利、可迁移能力、机会成本与风险控制

一、决策摘要:未来六个月最值得押注什么?

我的优先级判断是:

1

以 AI Infra / GPU 编译器 / 高性能算子为职业主线。

你已经积累了 MLIR、异步流水、片上内存驻留、别名分析和混合计算核的实际生产经验。继续沿这条路,可以直接强化既有优势,而不是重新建立专业身份。

2

以量化 HPC / Quant Infra / Compiler 作为平行求职市场。

它与编译器、内存规划、异构计算和低延迟系统有实际技能重叠,不必为了进入量化行业而先转型成为策略研究员。

3

内部争取诊断与验证模块,但同步启动外部机会校准。

不必立即辞职,也不应该为了熬满 1.5 年停止面试。让外部真实反馈决定是否值得继续积累。

4

个人项目收敛到一个完成品和一个深度代表作。

Rust Proxy 迅速封版;CUDA-first 的 tilec 是未来四个月的重点;Intel 后端和 Factor DSL 暂不进入关键路径。

这不是判断你绝对不适合 QR,也不是判断当前团队必定没有未来,而是按已验证的能力、重新学习成本、可控性和职业选项价值排序。

你真正面临的风险不是“押错技术热点”,而是同时承担一个边界不清的内部项目、一个过大的开源编译器、一个尚未验证兴趣的 QR 转型,最后三个方向都没有可展示的成果。


二、组织研判:把对领导的印象转化为可观察的项目风险

2.1 哪些判断可以成立,哪些不能?

根据你提供的经历,团队曾尝试改进寄存器分配和内存规划,但结果没有达到预期;现在又准备推进 AI 算子生成项目。这些属于你提供的内部经历,不是我能独立核验的公开事实。

也不能仅凭两次项目不成功,就断言领导缺乏技术能力、项目一定失败或团队完全不值得留任。编译器研发本来就有相当高的失败率。

但它们确实提示了三个需要防范的模式:

可观察风险对你真正的伤害应采取的防护
先提出宏大目标,后补可行性研究需求不断膨胀,交付无法封闭用两周 PoC 和明确的终止条件切断
将底层算法难题简单归因为不够创新原问题复杂度和硬件约束未被充分建模强制引入基线、反例及资源诊断
跨团队平台目标下沉给低职级执行者责任大于权限,难以控制依赖方只接有清晰接口和验收口径的模块

另一个需要纠正的技术观点是:PlanMemory 涉及的容量约束分配问题很难,不代表任何图着色方法都必然错误。 图着色、区间分配、启发式装箱和搜索可以各自成为有效组成部分。真正应质疑的是能否在目标实例分布上、给定编译时间预算下提供更好的质量与复杂度权衡,而不是单靠“NP-Hard”标签裁决某个方案。

2.2 你可以接项目,但必须满足四个条件

条件最低要求缺失时的决策
责任边界书面明确你负责诊断和验证模块,不负责平台整体性能承诺不接受完整项目 Ownership
资源有可用设备、可复现实验环境、编译器访问权限和依赖团队接口只做前期探索,不承诺完整 PoC
评价机制与默认编译器及传统 Autotune 比较;失败结果可以正常汇报不接受无法证伪的「必须成功」目标
价值归属模块贡献可以在内部技术成果与合规个人履历中准确呈现降低投入优先级

主动争取 Ownership 不等于主动接整个方向。

你在 15 级的位置,最有价值的是获得可独立交付、可复用、可审查的技术职责。试图以一己之力说服 19 级负责人改变全部技术愿景,既不必要,也未必可控。

2.3 撤退红线

建议把以下现象当成正式的决策信号,而非单纯的情绪来源:

  • 两轮迭代后仍无固定基线、明确指标或可复现实验。
  • 个人被要求承诺跨团队的代码生成、算法性能与交付时间,但无相应资源与决策权限。
  • 发现系统性错误、竞态或性能回退后,团队不允许记录负面结果。
  • 试点范围扩大,但你负责的模块成果无法封闭验收。
  • 新项目持续占据全部个人技术成长时间,同时没有补充独立学习与成果积累的空间。

出现一项红线不等于必须立刻离职;但若反复发生、沟通后仍无改善,就应把外部求职从备选提升为主要行动。

三、硬核技术判断:L1、L2、L3 为什么耦合,但又不应该被同一个黑盒支配?

3.1 先澄清三个层次的性质

你的分层构想有价值,不过不能把它看成一条完全单向、每层只负责一种优化的流水线。

L1:语义与空间切分。 负责从受限的 PyTorch/数学表达进入可合法优化的 Tile 表示,包括计算边界、shape、mask、融合候选、循环与块粒度。

L2:时间调度与片上资源。 决定数据何时被搬运、在哪个 pipeline 消费、保留几份缓冲、何时复用,以及实际需要哪些顺序约束。

L3:寄存器级计算分组。 决定哪些向量操作落入同一个 VF,涉及 VF 边界、向量寄存器生命周期、栈占用和对硬件执行窗口的影响。

它们不是三个可以各自求最优后再简单拼接的子问题。

3.2 VF 融合的真实收益与代价

偏向拆分 VF

可能改善寄存器压力、执行窗口和不同迭代之间的调度;代价是某些跨组结果可能需要物化到 UB。

偏向融合 VF

可能保留更多寄存器中间结果、减少物化与搬运;代价是较长的活跃区间、潜在栈溢出及调度压力。

示意图,只表达两类策略的权衡,不代表具体指令周期或硬件容量。

实际已有机制印证了这种权衡。AscendNPU-IR 的 -hfusion-merge-vf 文档提供 0(不融合)、1(仅融合无依赖 VF)、2(融合所有 VF)的等级和融合数量限制;Triton-Ascend 则进一步提供融合策略及栈限制开关。公开选项说明没有确认你此前引用的默认 merge-level=1 / limit=4 组合,因此该数值需要对准具体版本检查源码或运行时配置。(ascendnpu-ir.gitcode.com triton-ascend.readthedocs.io)

关键点有三层:

第一层:数据物化成本。 假设原本位于同一个 VF 内的两个操作可以直接交换寄存器结果,拆开后某些中间结果可能经 UB 落地和重新装载。这会消耗 UB 带宽及空间。但它不是毫无例外的定律:具体是否物化,仍取决于 lowering、操作依赖及后端能够保留的数据路径。

第二层:寄存器和执行调度。 过大 VF 可能延长活跃区间、增加寄存器或栈压力、形成很长的依赖链,也可能不利于指令取用及发射。至于“30 多条指令刚好达到 OoO 队列上限”“COS 的 IPC 必然下降到 1.22”,本次不能验证为 950 的通用微架构参数。应把这些作为待设计微基准验证的假说,不能硬编码进成本模型。

第三层:循环并行。 拆分可能给不同循环迭代的调度带来机会,却也可能因增加临时搬运和同步而适得其反。所以搜索目标应是完整 Kernel 性能,而非最少 VF 数量或最短单个 VF。

3.3 为什么 VF 边界会改变 PlanMemory 的决策?

设一个 Tile 中的中间结果尺寸为 SS 字节。

当两组操作能够直接通过寄存器传递时,它可能不需要额外的 UB 临时缓冲;如果拆分后必须物化,这个结果就成为具有明确生产者、消费者和生命周期的 buffer。

再假设为了隐藏搬运延迟而把该 buffer 设为双缓冲,则物化成本可能从约 SS 增至约 2S2S,并且还要考虑对齐、并存的其他 buffer、流水重叠造成的实际生命周期。

这正好触及 PlanMemory 的三级策略。官方实现文档说明:(ascendnpu-ir.readthedocs.io)

级别优先保护什么可能牺牲什么
Level2同类型流水线内复用,减少跨流水线额外依赖复用机会受限,容易出现容量不足
Level1通过必要的双缓冲升级,保护既有流水 overlap额外 buffer 空间
Level0允许更广泛的生命周期不重叠复用,优先装得下潜在跨流水线依赖和吞吐下降

因此,某次 VF 拆分增加的 UB 临时结果,可能迫使编译器从 Level2 退到 Level1 或 Level0;而复用策略的改变又可能引入等待边或削弱重叠能力。

如果最终还是装不下,只能减小 Tile、降低缓冲深度、重算中间值或改变融合边界。

反馈链条是:

VF Boundary → 物化/活跃区间 → UB 与流水规划 → 同步与 overlap → Tile 选择 → VF 的收益重新变化

但这里有一个设计上的关键区别:决策变量耦合,不意味着必须用一个无限制的 LLM 统一生成全部 IR。

更合理的是在同一搜索控制器下进行受限、增量式的联合搜索,并允许确定性优化器局部收敛。对于两个星期的 PoC,甚至可以先冻结 L1,仅搜索 L2/L3 的有限交叉空间。

3.4 另一个容易忽略的环:GSS 与实际同步成本

你的联合优化不能只让 Agent 观察已经生成的 SetFlag/WaitFlag 数量。

因为同步依赖来自:

  • 不同流水线之间的真实读写冲突;
  • Buffer 物理地址复用带来的新增反依赖;
  • Loop-carried dependence、双缓冲槽位交替;
  • 混合 AIC/AIV 核的跨核生产消费关系;
  • 硬件 event ID 数量、复用以及具体同步规则。

AscendNPU-IR 官方 Auto-Sync 文档表明,已有 GraphSyncSolver、CrossCoreGSS、RegBase 的 DelayedCrossCoreGSS 等机制,通过冲突关系和图算法求解同步,再生成 HIVM 级同步操作。(ascendnpu-ir.gitcode.com)

这意味着 Agent 最好提出:

「希望复用哪两个 buffer」「希望 overlap 哪两段计算」「希望允许哪组 VF 合并」

而不是直接发明 flag ID、固定插入等待指令或修改不受约束的物理地址。

独立验证器则负责检查实际 lowering 后的同步是否足以覆盖所有相关 hazard。它与负责生成同步的 GSS 应是不同角色,避免同一套错误假设被生成端和检查端同时复用。


3.5 联合搜索器的实际动作空间

不建议一开始让 LLM 重写完整 MLIR。最小可行的做法是:把搜索动作表示成一组合法的 IR 变换参数或 Hint,由编译器执行并检验。

动作类别可供搜索器调整不应由搜索器直接控制
TileShape、块大小、切分维度、融合候选任意改变数学语义或边界条件
Pipeline阶段数、预取距离、缓冲深度、期望 overlap未验证的物理同步指令
VFSplit/merge 边界、融合模式、最大组规模绕过后端硬件资源约束
Memory复用偏好、允许物化的中间值、重算候选强制互相 alias 的物理地址
Numerics合法精度模式、允许的重关联范围未经契约允许的数值近似
Search候选排序、选择下一步实验、解释失败原因修改 Golden Reference 或验证器

这可以看作一个带约束的搜索问题:

max⁡θ∈ΘlegalPerformance⁡(θ)\max_{\theta\in\Theta_{\mathrm{legal}}} \operatorname{Performance}(\theta)

其中 θ\theta 同时包含 Tile、Pipeline 和 VF 决策,但合法域 Θlegal\Theta_{\mathrm{legal}} 由编译器与验证器约束。

实际还要考虑编译时间、搜索预算、性能方差及目标 Shape 分布。因此不宜把一个 Shape 的最低延迟直接等同于整体最优。

3.6 编译器与 Agent 的 JSON 反馈契约

下面是建议的 v0.1 接口设计示例,并不是现有 CANN 已经支持的 API;其中 null 表示暂时没有可靠数据,绝不能伪装成测量结果。

json
{ "schema_version": "0.1", "target": { "soc": "Ascend950PR", "compiler_commit": "<git-sha>", "toolchain_version": "<version>" }, "workload": { "name": "vector_pipeline_example", "shape_signature": "<shape-and-dtype>", "semantic_contract_id": "<immutable-id>" }, "proposal": { "tile_shape": [64, 128], "pipeline_stages": 2, "vf_fusion_mode": "ub-aware-op", "vf_groups": [ ["op0", "op1"], ["op2", "op3"] ], "buffer_reuse_hints": [ { "buffer_a": "tmp0", "buffer_b": "tmp1", "preference": "try", "force_alias": false } ] }, "compiler_result": { "status": "SUCCESS", "ub_peak_bytes_est": null, "l0c_peak_bytes_est": null, "vf_stack_bytes_est": null, "vf_instruction_count_est": null, "plan_memory_level": null, "materialized_edges": [], "sync_edges": [], "diagnostic_reasons": [] }, "verification": { "static_bounds": "UNKNOWN", "static_sync": "UNKNOWN", "static_alias": "UNKNOWN", "sanitizer": "NOT_RUN", "numerical": "NOT_RUN" }, "benchmark": { "eligible": false, "median_latency_us": null, "speedup_vs_best_baseline": null } }

这个契约至少需要做到:

版本可追溯。 相同候选必须记录编译器提交、设备、驱动、输入契约和基线版本。

诊断有来源。 每个字段需要区分 IR_ANALYSIS、BACKEND_ESTIMATE 和 HARDWARE_PROFILE,不能把估算的资源占用当成实际计数器读数。

失败可定位。 例如 UB_OOM 应尽可能指向造成峰值的 buffer 集合、生命周期及当前复用失败原因;VF_STACK_RISK 应对应具体 VF 组。

结果不可自证。 Agent 提议的参数、生成出的 IR、静态证明状态、Sanitizer 结果和 Benchmark 结论,应由不同组件产生并分别记录。

3.7 我的架构建议:一个搜索控制器,多个确定性求解器

这与“三个互不沟通的 LLM”的区别在于:

  • 搜索器维护整个候选的状态和资源预算;
  • 每次只改变少量决策变量,以便做因果归因;
  • PlanMemory、GSS、VF lowering 仍由编译器决定合法性;
  • 静态验证与动态验证在性能评测之前执行;
  • 无法判断原因时,搜索器应主动设计区分性实验,而不是继续盲目改写代码。

一个实用的演进次序是:规则枚举 → 成本模型辅助搜索 → 联合进化搜索 → LLM 提议与诊断解释。

如果简单的规则和 Bayesian/进化搜索已经覆盖了主要收益,LLM 可以只负责失败解释、操作序列规划和跨算子知识迁移,而不必成为全部决策的中心。


四、形式化验证:真正值得你主攻的第二条技术主线

4.1 AccelSync 究竟证明了什么?

AccelSync 的贡献不是“用 SMT 把所有昇腾算子正确性证明了”,而是识别出一种结构化加速器程序中同步覆盖问题的可判定子类。(arxiv.org)

它把程序抽象成有限流水阶段、内存访问事件、队列操作以及硬件规定的同步关系,检查存在潜在冲突的事件是否具备足够的先后约束。

论文报告了:

论文公开结果正确的解释
复杂度 O(∥E∥2)O(\|E\|^2)适用于论文定义的受限事件与硬件模型,不代表任意并发 GPU 程序
6,292 个 CANN Kernel 中发现 3 个缺陷特定语料与模型下的检测成果,不代表缺陷总体发生率
120 个 LLM 生成 Kernel 中约 19.2% 存在同步问题该实验样本的发现,不能外推所有模型、所有算子
静态检查比 msSanitizer 更廉价,报告最高可达数百倍量级与实验配置及比较口径有关;不是对任何 950 算子的固定加速比
论文证明 soundness 与 completeness证明相对于规定的事件语义、队列规则和硬件模型成立,不是对闭源后端任意行为的无条件保证

论文公开的实验目标包括 Ascend 910B2 和 MLU370;若要用于 950 RegBase,你需要重新确认事件语义和硬件同步模型。(arxiv.org)

所以,最适合你的策略是:复用 AccelSync 的证明思路与事件建模,而不是直接宣称已经拥有 950 的完整静态验证能力。

4.2 你的同步验证器最小形式

从 HIVM 或其他合适的 IR 层提取事件:

e=(pipe,buffer,region,access,iteration,slot)e=(\text{pipe}, \text{buffer}, \text{region}, \text{access}, \text{iteration}, \text{slot})

这里 access 至少区分 Read、Write 与可能具有读改写语义的操作;region 可以先从静态仿射区间开始。

构造三个关系:

HB=TC⁡(PO∪QO∪BO)HB=\operatorname{TC}(PO\cup QO\cup BO)

其中:

  • POPO:程序顺序或执行单元内已知顺序;
  • QOQO:队列及相关传递操作建立的顺序;
  • BOBO:根据具体设备硬件模型认可的 Barrier、Flag 和其他同步关系;
  • TC⁡\operatorname{TC}:传递闭包。

对于两个可能访问同一物理区域、且至少一个会写入的事件,如果它们可能同时发生并且缺乏必要的先后约束,就形成候选 Hazard。

但要注意三态语义:

状态含义对自动优化的处理
PROVED在已明确声明的模型与输入约束内,已经证明相关安全条件可通过该层
FAIL找到了满足约束、能够构成违反条件的反例拒绝候选,并输出 witness
UNKNOWN别名、动态索引、循环展开或硬件语义不足以给出结论不得标记为已验证;进入更保守或动态检查路径

特别是保守的 MayAlias 不等于已发生竞态。如果两个访问可能别名,却无法证实有可实现的冲突执行,应标记 UNKNOWN 或保守风险,而不是制造虚假的“已证明错误”。

4.3 有界越界、对齐及别名验证

这一层很适合利用你已有的参数感知 Alias Analysis 与 MLIR Dataflow 经验。

对于一个大小为 BB 字节、访问起点为 f(i)f(i)、访问宽度为 ww 的 Buffer,在合法迭代域 DD 中验证:

∀i∈D:0≤f(i)∧f(i)+w≤B\forall i\in D:\quad 0\leq f(i) \land f(i)+w\leq B

需要按目标内存空间的实际硬件及指令规则检查对齐,例如:

f(i) mod A=0f(i)\bmod A=0

其中 AA 必须由设备、Memory Scope 和访问指令共同确定。

这里不能机械套用“所有昇腾访问必须 32B 对齐”。官方 PlanMemory 文档针对 Atlas A2 的表格给出了 UB/L1 32B、L0A/B/C 512B 等不同要求;950 的具体访问还需要对应版本的约束验证。(ascendnpu-ir.readthedocs.io)

建议首版只支持:

  • 常量、符号 Shape 及明确上下界;
  • 仿射索引和简单的 scf.for;
  • subview、静态切片及有限个已知 Buffer 来源;
  • 可枚举的多缓冲槽位;
  • 简单的参数化函数间指针传递。

对于非仿射访问、未知外部指针、复杂数据依赖索引等,直接标记 UNKNOWN。不要为了扩大声称的覆盖率而牺牲证明正确性。

4.4 静态 + 动态 + 数值 + 评测的分工

静态 IR 检查

低成本,证明特定属性

动态 Sanitizer

发现实际执行中的错误

差分与蜕变测试

验证数值和语义

可信 Benchmark

只为合格候选计分

msSanitizer 可作为运行期内存和同步问题的检查工具,但运行时没有触发错误不等于相关属性已被形式化证明。(github.com)

数值层建议分别覆盖随机分布、全零和全常数、极端值、非对齐尾部、边界 Shape、非连续布局、NaN/Inf 及允许精度范围内的参考对照。

蜕变测试可以使用不依赖完整 Golden 输出的关系,例如特定算子的置换等变性、线性缩放关系、分块与整体计算的一致性。但这些关系必须在数学语义和数值容差允许的范围内使用。

KernelAudit 特别值得关注的不是某个 GPU 求解算法,而是其语义正确性、实现完整性、测量完整性三类任务契约。自动生成系统中的验证器本身也可能错误接受不合规候选,必须被独立审计。(arxiv.org)

4.5 你的最小可发表 / 可开源方法论

我更看好一个边界清楚、质量较高的验证项目,而不是一个号称全能的 950 证明器。

可以命名为 Pipeline Memory Safety Checker,先在公开、自主实现的抽象流水线 IR 上完成以下闭环:

  1. 有限 Pipeline Event 模型和 Happens-Before 求解。
  2. Parameter-sensitive Alias 与有界区域相交分析。
  3. 三态证明结果及最小反例说明。
  4. 错误注入和变异测试:删同步、错误复用、错位访问、双缓冲槽位混淆。
  5. 与运行时 Sanitizer、参考实现的对比评测。

然后再研究如何接入公开昇腾 IR。

这样做有两个好处:一方面利用了你最成熟的 MLIR/别名分析经验;另一方面即使公司内无法公开 950 细节,你仍可以通过独立、合规的抽象实现展示方法论。

相比之下,Racer 或 VOLTA 一类基于 PTX 的等价检查研究能够带来重要理论启发,但把它们直接迁移成通用的 950 后端机器码等价证明,并不是合理的单兵短期目标。(arxiv.org github.com)


五、职业终局算账:AI Infra、QR、QD / Quant Infra

5.1 先重新评价你的真实能力结构

你已经有如下可以向其他体系迁移的能力:

已经实践过技术价值不能越界描述成
DCV 混合算子输出表达重构,支持 L0C 驻留理解片上数据生命周期、流水和跨计算单元数据路径「独立实现了整个 PlanMemory」
混合算子拆核、多缓冲和同步优化异步计算、内存/计算重叠和性能分析「设计了整个设备调度器」
MLIR 的 Region/Loop-aware Dataflow构建可扩展的跨控制流静态分析「实现过完整 MLIR 编译器」
参数感知的指针溯源 Alias Analysis编译器正确性、DMA 竞态与内存分析「已经完成通用形式化验证」
CATLASS 模板库迁移和维护高性能算子工程与编译器集成「独立研发了一个 CUTLASS 级矩阵库」

你的技术优势并不只在“懂昇腾”,而在于能以中间表示、资源约束和真实执行行为之间的因果关系来处理问题。

但当前还缺两个对于高端 CUDA/GPU 编译器岗位很有说服力的公开证据:

亲手实现过静态片上内存规划及同步求解器。

拥有可运行、可复现、有正确性能对比的 CUDA/GPU 编译器或调度系统。

这两项都比“又学了一种 Agent 框架”更值得补齐。

5.2 外部市场的真实信号

Epoch AI 在 2026 年 6 月对中国六家头部 AI 企业招聘启事的分析显示,相关技术岗位的平均最低经验要求较美国头部实验室低;其中国数据约为 1.6 年、美国约 5.5 年。不过,1.6 年使用了校招或部分无明确经验要求职位记为零的处理方式。只看明确标注经验数字的职位,中国约为 3.4 年。这不是实际录用者资历,更不是一年经验候选人的录取概率。(epoch.ai)

这个研究真正有用的结论是:国内头部 AI 实验室确实存在更早期人才进入的招聘通道,工作年限并非唯一筛选条件。

DeepSeek 官方招聘入口存在高性能算子、通信、编译器等相关岗位方向;具体在招与岗位要求应以投递当天页面为准。(talent.deepseek.com)

在量化侧,宽德 WizardQuant 官方招聘页面将策略研究与 IT 分为不同序列,其 IT 岗位公开涵盖机器学习性能工程、平台、策略系统、交易系统、网络等,说明量化行业并非只有 QR 或传统业务开发两个选项。(www.wizardquant.com)

5.3 四条路线的相对比较

路线现有能力契合度主要增量准备最大不确定性建议
AI Infra / GPU 编译器很高CUDA、GPU 资源模型、公开作品面试深度、岗位竞争、特定硬件经验主线
Quant Infra / HPC / Compiler高低延迟系统、量化数据工作流、特定机构技术栈工作内容差异巨大平行投递
传统 QD中高,但取决于岗位C++、系统工程、交易业务是否有技术深度和自主权只挑技术密度高的岗位
纯 QR现阶段较低概率统计、研究设计、回测偏差、金融问题真实研究能力、兴趣及胜任门槛暂不作为主线

这里的契合度是结合你陈述的经历得出的定性判断,不是经过统计模型计算的录用概率。

5.4 关于信弘天禾和 QR:不必神化,也不用彻底否定

你提供的 LCQ 交流内容,如果准确,说明特定团队曾在 LLM 驱动的模型/因子进化上遇到实盘泛化困难。这对你的职业选择很重要,但只能视为特定团队、特定阶段的一手信息。

不能由此推出:

  • LLM 搜索 Alpha 一概没有价值;
  • 量化 QR 长期没有技术前景;
  • 该机构的全部研究方向都缺乏经济价值;
  • 量化开发一定比 AI Infra 缺乏成长性。

更一般的、确实值得重视的问题是:大量候选策略反复搜索并挑选最优者时,样本内赢家会出现严重的选择偏差。 如果没有严格的多重检验、时序切分、成本建模和样本外验证,优秀的回测结果可能主要来自噪声。

你提到的极值尺度直觉也值得校准:O(ln⁡n)O(\ln n) 不是所有随机序列最大值的普适尺度。例如,独立指数分布样本最大值的典型增长是 Θ(ln⁡n)\Theta(\ln n),而独立标准正态样本最大值的主导尺度是 Θ(2ln⁡n)\Theta(\sqrt{2\ln n})。这说明先说明分布和尾部假设,再谈极值尺度比记住某个口号更重要。

至于是否现在全职转 QR,我倾向于否,原因并不是“数学忘了就没有机会”,而是:

  1. 你的工作资本目前集中在系统和编译器,QR 需要重建研究技能组合。
  2. 你尚未验证自己是否真的享受长期寻找预测信号、设计统计检验和反复承受样本外失效。
  3. 未来四到六个月若用来强化 GPU 编译器能力,可以同时服务 AI Infra 和量化 Infra 两个市场。

如果 QR 的兴趣持续存在,建议做一次时间封顶的低成本试验:复习一组概率统计核心题,独立完成一个含时序切分、交易成本、泄露检查和多重假设校正的小型因子研究。完成后再判断是否愿意投入数百小时深入,而不是因为错失焦虑立即换赛道。

5.5 1 年还是 1.5 年跳槽?

你从 2025 年 11 月入职,到 2026 年 11 月已有约一年经验。建议采用机会驱动的跳槽窗口,而非固定年限驱动。

时间相对优势相对劣势
2026 年 11–12 月,约 1 年可以立即测试市场,避免低质量项目进一步消耗时间公开 GPU 作品尚未成熟,部分岗位要求更长经验
2027 年春季,约 1.4–1.6 年有机会完成 tilec 代表作、积累一个明确模块成果若内部项目持续失控,等待本身可能损失成长机会
2027 年下半年,接近 2 年可以积累更成熟的架构与生产经验若工作内容停滞,仅增加年限意义有限

我的策略是:从现在开始投递和面试校准,优先争取 2027 年春季形成更强筹码,但收到显著更好的岗位机会时无须为了 1.5 年整数节点而拒绝。

薪资方面,不能依据缺乏可靠样本的“3–5 年 120–220 万”表格判断你的现实市场价值。应该比较真实 Offer 的税前现金、奖金确定性、股权兑现概率、城市成本、工作时长、组织稳定性及未来两年的技术增长。

5.6 简历该怎么写,才不被一轮深问打穿?

英文经历可以围绕这些表述组织;最终必须对应你能独立解释的实际代码和可披露成果:

Optimized asynchronous Cube–Vector execution pipelines through kernel decomposition, multi-buffer scheduling, and synchronization improvements.

Redesigned DCV output representation to preserve accumulation in L0C, eliminating unnecessary L0C–UB transfers and temporary buffers in affected workloads.

Implemented region- and loop-aware MLIR dataflow analysis using RegionBranchOpInterface and LoopLikeOpInterface.

Developed parameter-sensitive pointer provenance and alias analysis to reason about asynchronous DMA and vector memory hazards.

如果有真实、经批准可以披露的性能数字,再加入具体加速比、内存节省或问题规模。没有数字就保留技术行为与结果,不填虚构的百分比。

这里尤其要守住两个边界:

你改造的是 DCV 的输出表示和相关优化路径,不是从零实现 PlanMemory。

你理解 GSS 并参与相关代码审查,不等于亲手设计、开发了整个 GSS。

高端编译器面试中,准确划分自己负责的 Pass、IR 不变量、与其他团队的接口,往往比夸大系统 Ownership 更有说服力。


六、个人项目:把四个月浓缩到一个真正可展示的工程闭环

6.1 Rust Proxy:一个周末封版,但不牺牲基本质量

对 OliverCWY/proxy 的建议仍然是快速收官。

目标:v0.1.0 (2026 年 11 月)

/ 项完成 [复制清单]

memchr + httparse、ArcSwap + CAS 和 SO_REUSEPORT 是否真的改善了目标工作负载,需要有针对性的 A/B 基准。不要把项目名称中的“lock-free”理解成整个网络栈绝无等待、绝无锁,或把“零拷贝”理解为所有路径都没有内存复制。

封版后只修复关键缺陷,不继续扩展功能。

6.2 tilec:最重要的范围缩减

你最初想做:

CUDA + Intel Level Zero + 端到端 Tile 编译器 + PlanMemory + GSS + 自动双缓冲 + 静态形式化验证。

这份范围如果按工业级质量理解,对只有周末时间的个人开发者来说过大。

建议将四个月的可交付主目标改成:

一个 CUDA-first 的迷你 Tile 编译器,具有亲手实现的静态 Buffer 规划、依赖与同步分析、真实 GPU 执行及可信 Benchmark。

Intel Level Zero 保留为后续检验架构可迁移性的第二后端,而不是首版必达项。Level Zero 本身是底层设备运行时接口,若要获得真正可用的计算 Kernel,仍需设计代码生成、SPIR-V 或相应编译工具链的路径,不能简单把 CUDA API 换成 Level Zero API 就视为完成跨 GPU 编译器。(www.intel.com www.intel.com)

建议的最小架构

mermaid
flowchart TD A["受限 Tile DSL / MLIR 前端"] --> B["显式 Buffer 与 Tile IR"] B --> C["依赖、活跃区间与 Alias 分析"] C --> D["静态片上内存规划"] D --> E["流水与同步求解"] E --> F["CUDA Backend"] F --> G["真实 GPU 运行 + Golden 检验"] G --> H["资源与性能报告"] B -.-> I["未来:Intel/SPIR-V Backend"]

这里的 PlanMemory 和 GSS 是你在个人项目中独立实现的教学/研究级子集,不应复刻或移植公司的专有代码、测试、实现细节和未公开硬件模型。

6.3 tilec 的两项最核心算法练习

A. PlanMemory:容量约束下的带生命周期分配

先完成一个可检查、可解释的算法:

  • 对 Buffer 建立带大小、对齐、作用域的活跃区间;
  • 用合法的依赖关系确定能否重用;
  • 采用确定性 First-fit / Best-fit / Linear-scan 变体做初始分配;
  • 允许约束明确的复用或 Inplace;
  • 输出峰值容量、碎片、冲突关系及失败原因;
  • 用小规模穷举或 SMT 作为测试 Oracle,检查分配合法性并比较质量。

第一版不必追求全局最优。真正重要的是能给出合法性证据和有解释力的失败案例。

B. GSS:带访问冲突的有向依赖图

从 Buffer 读写事件建立先后关系,求解哪些同步边是必要的,哪些可能通过已有顺序关系覆盖。

首先支持固定流水、固定 Stage、有限双缓冲和明确的 CTA 范围;再映射到 CUDA 适用的 barrier 或异步流水原语。

不要照搬 Ascend 的 SetFlag/WaitFlag 语义到 CUDA:不同设备的线程模型、内存可见性和异步操作完成规则不同,必须分别建立目标硬件模型。

6.4 两个展示性算子比十个半成品更有价值

建议先选择:

一个多阶段 Vector Kernel,比如带局部归约和后续逐元素运算的组合,展示融合、拆分及同步/临时 Buffer 权衡。

一个有数据搬运与计算重叠的 Tile Kernel,例如受限 Shape 的 GEMM 或一个适合所用 GPU 的异步流水微基准,展示缓冲规划和 overlap。

对两个 Kernel 都提供:

  • 简洁的前端示例;
  • 生成 IR、内存规划与同步依赖可视化;
  • 与朴素 CUDA 实现及合理优化基线的正确性、性能比较;
  • 改变 Tile、阶段数或缓冲数后的消融实验;
  • 不支持的 Shape、指令及调度情形说明。

比起宣称“全自动跨 GPU 编译器”,这样的工程会更容易让面试官确认你的真实架构能力。


七、未来六个月的排期

假设工作之外平均每周能稳定投入约 8–10 小时。这是用于控制范围的规划假设,不是要求你每周必须达到的劳动指标。

时间唯一主要目标验收物
2026 年 11 月下旬Proxy v0.1.0 封版;tilec 项目骨架和范围冻结Proxy Tag、README、基准;tilec 设计文档
2026 年 12 月Tile IR、Buffer Scope、Alias/Liveness 基础有单元测试的 IR 与生命周期分析
2027 年 1 月自己实现 PlanMemory 子集和容量诊断分配结果、合法性检查、失败案例、可视化
2027 年 2 月GSS 子集、双缓冲状态与 CUDA 执行一个完整的异步流水 Kernel
2027 年 3 月第二个算子、可信 Benchmark、消融、文档公开 tilec v0.1,完整可复现实验
2027 年 4 月简历整合、技术博客、定向面试和岗位选择作品展示、面试反馈与下一阶段决策

更细的每周执行节奏:

周一

回顾上周结果,定义本周最多两个可验收问题。每个问题写出失败条件。

周中

阅读关键源码/论文,补齐模型和测试,不开新功能分支。

周末

完成一个纵向闭环:实现、最小反例、回归、测量、记录。

周末末

为下一周删除不必要的范围;发布一次可读的进展记录。

若发生工作高峰,每月应优先保住一项可演示的增量成果,而不是为赶进度牺牲睡眠或持续加班。

六到十二个月的分叉策略

到 2027 年 4 月时,用真实反馈选择下一步:

已出现的结果2027 年 5–11 月建议
AI Infra 方向拿到高质量面试或 Offer优先岗位准备和面试;tilec 收敛为面试代表作
tilec CUDA 版本成熟,但缺跨平台证据再增加 Intel/SPIR-V 受限后端,强调可迁移 IR 与算法
量化 Infra 有强烈招聘需求补低延迟 C++、系统性能与金融数据工作流,投递对应岗位
QR 兴趣仍显著,且完成了统计研究试验有限度准备 QR 面试,重新评估职业转型
内部项目真正变成高质量、有影响力的编译器工作可考虑延长留任时间,换取更完整的成果
内部任务持续失控,成长停滞不再为任意整数年限延迟离职决策

Factor DSL 的处置:暂缓。

除非出现明确的量化 Infra 面试或真实使用需求,否则不在这六个月安排完整实现。未来真要探索,先做一个两周级别的最小原型:Rust AST、类型与量纲约束、时间泄露规则、表达式重写及有限验证,而不是再开一个大型编译器项目。


八、把直觉变成严谨工程能力:最值得长期积累的个人方法论

你说自己经常在 Code Review 时先凭直觉发现异常,再寻找证据,但有时误判。这不是应该压制的工作习惯,而是需要增加一个将怀疑转化为可证伪假说的流程。

8.1 使用「假说—不变量—反例—实验」模板

工程假说记录模板 [复制]

例如:

直觉: “这个 Kernel 过度融合 VF,导致 IPC 降低。”

拆分成可检验的问题:

  1. 性能下降是否只与 VF 融合数量变化有关,还是 Tile 与 UB 复用同时变化?
  2. 寄存器/栈压力、UB 搬运量、同步数量和循环执行结构分别如何变化?
  3. 在相同 Tile 和相同输入下,仅修改融合模式是否复现下降?
  4. 是否存在某个 Shape 或算术强度更高的反例,使大 VF 反而更好?
  5. 如果实际没有对应硬件计数器,能否只报告相关性,而不声称已证明 OoO Queue 是根因?

这套问法会强迫你区分观察、机制假说与因果证据。

8.2 三个高收益习惯

每周一次小型因果消融。 选择一个优化问题,固定尽可能多的变量,只改变一项决策,形成可重现的 before/after。

维护失败假说记录。 不仅记录优化成功,还记录“原以为是 alias,最终发现是 loop-carried dependence”“原以为是 UB 峰值,实际瓶颈是同步等待”。这会校准自己的工程直觉。

让 Agent 专门寻找反证。 不要只问模型“为什么我的分析是对的”,而要求它输出:假说成立的必要条件、至少两个竞争解释、最小反例与区分性实验。执行结果由测试和硬件数据决定。

直觉负责发现值得研究的问题;不变量和测试负责判断它是否真实。


九、最终证据审计:哪些叙述仍然不能视为已证实?

这一节对你的决策非常重要,因为先前材料中混入了事实、工程直觉和过强的推断。

事项本次审计判断正确用法
vf_fusion_mode、栈限制、-hfusion-merge-vf官方文档可核实可以作为实际试验入口
950 硬件 OoO 队列的固定 30 条指令阈值与 IPC 1.22尚未获得可核验的通用证据作为待测微架构假说
AccelSync 复杂度与实验结果论文真实存在引用时限定模型与实验设备
AccelSync 可直接完整验证 950未证实需要重新建立和验证 950 硬件模型
蚂蚁 2026 FusionAgent 证明了算子融合的特定结论未核实到对应论文。检索中著名同名 FusionAgent 是 CVPR 2026 人体识别研究,并非算子融合编译器。(openaccess.thecvf.com)不要在正式立项材料中当作技术依据
CANNBench 排名证明某种算法范式永远更强不成立在相同子集、覆盖率、预算和版本下比较
当前团队领导必定不适合长期合作无法外部证实用权责、基线和行为红线判断
信弘天禾的 AlphaEvolve 实盘成效当前仅有你的转述,未取得原始聊天文件个人判断可以参考,但不能推广为行业定论
头部 AI Infra 的固定薪资天花板未有足够同口径薪酬证据以真实职位和 Offer 校准
1 年经验进入头部实验室有确定胜率不成立通过履历匹配和实际面试获取反馈

最终行动判断

工作上: 争取 VF/UB/流水诊断接口 + 可信验证门禁 的模块所有权,拒绝无限范围的平台责任。

技术上: 联合搜索值得试验,但先证明相对确定性优化器的边际价值;不要把 LLM 当成所有算法问题的默认答案。

职业上: AI Infra / GPU 编译器为主线,Quant Infra 平行投递,QR 暂缓而非永久排除。

个人项目上: Proxy 迅速封版,四个月投入 CUDA-first tilec,重点补齐亲手实现 PlanMemory 与同步分析的能力缺口。

方法论上: 不放弃直觉,但每一个重要技术判断都尽量转化为可复现的假说、反例和因果消融。

我对你整个局面的最终评价是:你目前最大的竞争优势不是某一种 NPU 专有知识,也不是对 AI Agent 的兴趣,而是已经接触过真实编译器里资源规划、异步调度、Alias Analysis 和高性能算子之间的复杂联系。

未来 6–12 个月最合理的目标,是将这些经历沉淀成两种能被外部独立验证的资产:一个具备清晰 Ownership 的生产级编译器模块成果,以及一个能够公开运行、解释其设计取舍和性能结果的 GPU 编译器作品。

如果两项都做到,你不需要先赌对“AI 编译算子”的某个热点,也不必仓促转 QR,便能同时增强在头部 AI Infra 和高端量化基础设施市场上的竞争力。

Partager cette Q&R