从后台架构专家到大模型推理“新人”：AI 时代 Infra 工程师的进化之路

刷到《从后台架构专家到大模型推理“新人”：AI 时代 Infra 工程师的进化之路》，内容很实在，值得细读。这篇把它的关键做法提炼出来，帮你省下通读的时间，结尾附行动建议。

本文已于 2026.09.13 发表于 公众号 和 知乎 本文讲述我——一名资深后台工程师，在 AI 时代如何入门大模型推理工程。全文围绕三条主线展开：从资深后台工程师到推理工程新人的抉择、推理工程的入门路径与自检方法、AI Infra 与通用 Infra 的同源与分野。 1. 前言 我工作了 15 年，2016 年加入腾讯，2022 年凭借搜索中台的工作晋升 T12，是一名资深搜索后台工程师。2025 年初，我切换到大模型推理工程团队，放下过往的资历与经验积累，以归零心态从头开始。本文既是我的自省回顾，也希望能给在 AI 时代犹豫迷茫的同行人一些鼓励，并与各位交流共勉，一起追赶浪潮、推动效率新时代的到来。

本文已于 2026.09.13 发表于 公众号 和 知乎 本文讲述我——一名资深后台工程师，在 AI 时代如何入门大模型推理工程。全文围绕三条主线展开：从资深后台工程师到推理工程新人的抉择、推理工程的入门路径与自检方法、AI Infra 与通用 Infra 的同源与分野。 1. 前言 我工作了 15 年，2016 年加入腾讯，2022 年凭借搜索中台的工作晋升 T12，是一名资深搜索后台工程师。2025 年初，我切换到大模型推理工程团队，放下过往的资历与经验积累，以归零心态从头开始。本文既是我的自省回顾，也希望能给在 AI 时代犹豫迷茫的同行人一些鼓励，并与各位交流共勉，一起追赶浪潮、推动效率新时代的到来。 2. 大模型推理工程的零级新人 从 2024 年到 2025 年，我最大的变化是从资深搜索后台工程师和基干变成大模型推理工程的新人。

本文已于 2026.09.13 发表于 公众号 和 知乎 本文讲述我——一名资深后台工程师，在 AI 时代如何入门大模型推理工程。全文围绕三条主线展开：从资深后台工程师到推理工程新人的抉择、推理工程的入门路径与自检方法、AI Infra 与通用 Infra 的同源与分野。 1. 前言 我工作了 15 年，2016 年加入腾讯，2022 年凭借搜索中台的工作晋升 T12，是一名资深搜索后台工程师。2025 年初，我切换到大模型推理工程团队，放下过往的资历与经验积累，以归零心态从头开始。本文既是我的自省回顾，也希望能给在 AI 时代犹豫迷茫的同行人一些鼓励，并与各位交流共勉，一起追赶浪潮、推动效率新时代的到来。 2. 大模型推理工程的零级新人 从 2024 年到 2025 年，我最大的变化是从资深搜索后台工程师和基干变成大模型推理工程的新人。“新人”不是一个谦词，是字面意义上的“新人”，如同实习生、应届生一般，没有高级头衔，也不做任务分发。

本文已于 2026.09.13 发表于 公众号 和 知乎 本文讲述我——一名资深后台工程师，在 AI 时代如何入门大模型推理工程。全文围绕三条主线展开：从资深后台工程师到推理工程新人的抉择、推理工程的入门路径与自检方法、AI Infra 与通用 Infra 的同源与分野。 1. 前言 我工作了 15 年，2016 年加入腾讯，2022 年凭借搜索中台的工作晋升 T12，是一名资深搜索后台工程师。2025 年初，我切换到大模型推理工程团队，放下过往的资历与经验积累，以归零心态从头开始。本文既是我的自省回顾，也希望能给在 AI 时代犹豫迷茫的同行人一些鼓励，并与各位交流共勉，一起追赶浪潮、推动效率新时代的到来。 2. 大模型推理工程的零级新人 从 2024 年到 2025 年，我最大的变化是从资深搜索后台工程师和基干变成大模型推理工程的新人。“新人”不是一个谦词，是字面意义上的“新人”，如同实习生、应届生一般，没有高级头衔，也不做任务分发。最初三个月，我的工作任务集中在性能评测、服务部署等大模型周边的琐碎事项；不过在这个过程中，我也抽时间深入阅读了 SGLang 源码。

本文已于 2026.09.13 发表于 公众号 和 知乎 本文讲述我——一名资深后台工程师，在 AI 时代如何入门大模型推理工程。全文围绕三条主线展开：从资深后台工程师到推理工程新人的抉择、推理工程的入门路径与自检方法、AI Infra 与通用 Infra 的同源与分野。 1. 前言 我工作了 15 年，2016 年加入腾讯，2022 年凭借搜索中台的工作晋升 T12，是一名资深搜索后台工程师。2025 年初，我切换到大模型推理工程团队，放下过往的资历与经验积累，以归零心态从头开始。本文既是我的自省回顾，也希望能给在 AI 时代犹豫迷茫的同行人一些鼓励，并与各位交流共勉，一起追赶浪潮、推动效率新时代的到来。 2. 大模型推理工程的零级新人 从 2024 年到 2025 年，我最大的变化是从资深搜索后台工程师和基干变成大模型推理工程的新人。“新人”不是一个谦词，是字面意义上的“新人”，如同实习生、应届生一般，没有高级头衔，也不做任务分发。最初三个月，我的工作任务集中在性能评测、服务部署等大模型周边的琐碎事项；不过在这个过程中，我也抽时间深入阅读了 SGLang 源码。 为什么要从自己熟悉的领域离开，去当零级新人呢？

建议先收藏再实操：挑其中一个点今天就试试，跑通了再看下一个。知识只有过手才是你的，你准备先试哪一点？ 来源｜博客园《从后台架构专家到大模型推理“新人”：AI 时代 Infra 工程师的进化之路》，https://www.cnblogs.com/cswuyg/p/22956008.html