2027届-AI 存储固件工程师(大模型推理方向)(J11580)
江波龙
1. 参与 LLM 推理与本地存储的软硬件协同优化,主要面向 vLLM / SGLang / llama.cpp 等主流推理框架。 2. 负责大模型推理过程中的数据分层调度,包括但不限于:KV Cache 在内存 ↔ SSD 之间的换入换出与预取策略;MoE 专家权重 / 稀疏模型参数的按需加载与冷热分层。 3. 分析推理过程中的存储 I/O 瓶颈(NVMe 带宽、PCIe、块设备 I/O 路径),并将上层负载特征转化为对 SSD 固件的功能与性能需求。 4. 在端侧场景(NPU + 本地 UFS / NVMe SSD)进行方案原型验证与性能调优。