跳到正文
原文
腾讯技术工程(公众号)·· 26 天前AI 评分34

腾讯15年资深后台工程师,转战大模型推理的抉择

AI 导读

腾讯一位工作15年、2022年晋升T12的资深搜索后台工程师,2025年初主动卸下管理头衔,转入大模型推理工程团队,从性能评测、服务部署等基础工作做起,并深入阅读SGLang源码。他认为AI Infra与通用Infra高度接近,从通用Infra切入是更顺畅的演进路径,并给出推理工程入门的三层认知框架与三个自检练习。

来源:腾讯技术工程(公众号) · mp.weixin.qq.com