AI Infra · 大模型推理与系统优化
复旦大学 · 上海 / Fudan University, Shanghai
目前在中科寒武纪研发与维护面向 MLU 的大模型推理引擎。
工作横跨 vLLM 与 SGLang 的模型适配、调度与 Cache,以及 CUDA / Triton / BangC 算子优化。
vLLM_MLU · SGLang_MLU
调度 · Cache · MTP
Triton · CUDA · BangC
并行运算与推理 AI Infra 实习生
AI 算法实习生 | 世界杯 AI 解说 VLM
基于仿真 + 神经网络的 FacialRig