7 年 Go / Kubernetes 工程师,专攻国产异构加速卡上的 LLM 推理控制面与调度编排。
这里发布可复现的真机横评——同一模型、同一负载,在 NVIDIA 对比 昇腾 / 寒武纪 / 海光 / 沐曦 / 昆仑芯 上 head-to-head——以及背后的路由、KV-Cache 与成本权衡。
不灌水。每一个数字都附上可复现的确切命令。
7 年 Go / Kubernetes 工程师,专攻国产异构加速卡上的 LLM 推理控制面与调度编排。
这里发布可复现的真机横评——同一模型、同一负载,在 NVIDIA 对比 昇腾 / 寒武纪 / 海光 / 沐曦 / 昆仑芯 上 head-to-head——以及背后的路由、KV-Cache 与成本权衡。
不灌水。每一个数字都附上可复现的确切命令。