徐术挺-漫思录

0917-大模型应用开发技能版图与北京求职指南

19分钟阅读

从 deepwiki 说起：一个 Go 后端眼中的大模型应用开发能力版图

面向一位 5 年经验 Go 后端、想进阶 AI 应用开发的工程师（北京市场视角）。 货币口径：除特别标注外，薪资均为「北京税前月薪（人民币 K）」，参考 2026 年行情。 数据来源见文末，为市场参考中位，个体因背书/公司/期权差异较大。

2025 年 4 月，一个叫 deepwiki-open 的项目在 GitHub 上线。到今天，它攒了 17.9k star、2k fork。它做的事很直白：把任意 GitHub 仓库拖进来，自动生成一份 wiki，还能基于 RAG 跟这份代码库对话。看上去是个”玩具级 AI 应用”，但 star 数说明它戳中了某种普遍需求。

我拿它当一块敲门砖——不是为了评价这个项目本身，而是想借它厘清一个更值钱的问题：一个普通后端工程师，想在大模型应用开发这条路上走得值钱，到底该往哪使劲？

这篇文章会经历四次跳转：先看 deepwiki 暴露出的”难度错觉”，再跳出 RAG 看完整技能版图，然后把能力翻译成北京 2026 年的真实薪资与市场供需，最后落到你——一个 5 年 Go 后端——该怎么走。

一、难度错觉：能仿照，不等于能造

先说结论：deepwiki-open 没有任何一行自研算法。它就是 textbook RAG 的标准套壳——git clone → 按文件切 chunk → embed → FAISS 检索 → 塞进 prompt → 流式回。这套 pipeline，一个 5 年 Go 后端，换成 qdrant + 通义或 OpenAI client，一两周就能跑出个能聊单仓库的东西。

所以”普通工程师也能仿照搭建”，这句话在技术深度这一维上是对的。

但把”仿照”和”造生产级”混成一层，问题就出在这。我把 RAG 从 demo 到生产拆成六层，每层标上北京税前月薪（以你现有 5 年 Go 后端 ≈30K 为基线，往上叠加 AI 能力）：

层能力月薪资中位较上层 Δ为什么值钱
1懂 RAG 概念（clone→chunk→embed→retrieve→prompt）30K基准不值钱，认知门槛不是能力门槛，2026 已烂大街
2跑通 demo（单仓库能聊，FAISS + 一家 LLM）35K+5K几乎不值钱，“会调 API”2024 就普及，企业买的是能上线不是能 demo
3全栈 + 流式 + 多级 wiki 结构42K+7K开始稀缺，小团队一人顶俩（后端+前端+AI），砍协作成本
4多 LLM provider 适配（LiteLLM 层）50K+8K商务韧性，不绑定单家=议价权+不被卡脖子
5生产容错（尺寸校验/截断抢救/parse 回退/限流）62K+12K全链路最大一跳，坑只有线上炸过才懂预防，企业买「少炸几次」
6可运维（Docker/日志/热重载/CVE/监控）72K+10K能 owning 端到端=去人依赖+可规模化复制，工程师→架构跃迁

规律很清楚：层 1→2→3 三跳加起来才 +19K；而层 4→5 一跳就 +12K——全链路最大一跳。换句话说，市场愿意为”全栈”多付一点，但愿意为”被生产教育过”付最多。

这 +12K 加在哪？看 deepwiki 自己。它的质量评分约 7/10（中等偏上），好在没有自研算法堆复杂度，坏在深度绑定 AdalFlow 且只锁下限不锁上限、CORS 开了 allow_origins=["*"] 还配 allow_credentials=True。但真正的含金量不在这些，在 structure.py 那段”模型输出容错”：LLM 吐出的 XML 结构被 token 触顶截断、半个标签，它做了裸 & 转义、fence 剥离、截断抢救、严格解析失败回退 regex；还有 rag.py 里 asyncio.to_thread + Semaphore 把阻塞的 git clone 和 embedding 丢进线程池限流。这些不是”懂 RAG 概念”能写出来的，是线上炸过才补的。

普通工程师仿照搭，通常停在层 3（能 demo）。而层 5 的坑，恰恰仿照不来——因为他还没炸过。

所以”普通工程师也能搭”对，但能搭 demo 的普通工程师，和不只会搭、还能把层 5 的坑提前填平的人，在北京差着 15-30K/月。前者是”又会一门 Python 的 Go 后端”，后者才是下一段要说的那个画像。

自检一：如果现在用 Go 写一个 mini-deepwiki，给你两周，你能交付到”能 demo”还是”能上生产”？这两者的差，就是层 3 到层 5 的距离。你的 RAG 里 chunk 边界怎么切？.md/.go/.lock 权重一样吗？这些”设计选择”才是区分”仿照”和”造”的地方。

二、跳出 RAG：大模型开发到底有哪些活

RAG 只是”让模型读文档”。把大模型开发当成”唯一技能”看，等于以为后端就是”写 CRUD”——能活，但天花板低。完整版图是四个家族：应用层（直接面向用户）、模型层（改造模型本身）、基建层（跑得动跑得省）、治理层（稳得住合规）。

下面逐个方向拆：是什么、难度、北京月薪资中位、为什么值钱。薪资是 2026 行情参考中位。

应用层 · 直接面向用户

  • RAG（基线）：生产级 62K。检索增强生成，上一节六层已讲透。
  • Agent / 工具编排：60K，中高。让模型自主决定调哪个工具、按什么顺序、出错怎么重试。当前最热方向，能替代人力流程；稀缺在状态管理、循环保护、错误恢复，不是调 API。deepwiki 里”生成 wiki 结构→逐页扩写”就是最简化的 Agent。
  • 多模态（VLM/语音/生视频）：65K，中高。看图听声生图生视频，落地场景爆炸（审核/客服/内容生产），2026 文生视频刚起量，先发溢价高。
  • GraphRAG：58K，中。图谱 + 检索，解决多跳推理/全局问答，是 RAG 触顶后的自然升级。

模型层 · 改造模型本身

  • 微调（SFT/LoRA）：68K，高。拿领域数据把通用模型训成”懂行”。需 ML 底子，垂直行业（金融/医疗）溢价极高；与 RAG 互补——RAG 补知识，微调补能力。
  • 预训练 / 继续预训练：80K+，极高。从零或续训地基模型。算法科学家路线，要大规模训练工程 + ML 深功，与工程向隔行——知道在顶端即可，别硬冲。
  • 蒸馏 / 端侧小模型：60K，中高。把大模型压成手机/IoT 能跑的小模型，隐私 + 离线。端侧是推理优化的延伸。

基建层 · 跑得动跑得省（你最该盯的一块）

  • 推理优化 / Serving：75K，高，全场最高一档。vLLM/TensorRT-LLM/量化/蒸馏。直接砍推理成本——大模型落地最大拦路虎是成本。系统 + ML 交叉，偏系统正好是你强项。
  • LLMOps（CI/CD/版本）：58K，中。模型持续交付、Prompt 版本、A/B、回滚。多数团队”能跑通但跑不稳”，把玩具变产品，本质就是服务治理换皮——对你极友好。
  • 向量检索专精：55K，中。选库/调参/混合检索/量化压缩。RAG 的”内功”版。
  • 可观测（trace/监控）：58K，中。LangSmith 类追踪、成本看板、线上监控。没有它连”为什么这次回答变差了”都查不出。

治理层 · 稳得住合规（最被低估的一块）

  • 评测 Eval / 质量门禁：52K，低中。自动化评测/红队/质量门禁。被严重低估，缺了前面所有方向都白搭。deepwiki 层 5 的容错，本质就是 Eval 思维在应用层的体现。
  • 安全对齐 / 红队：56K，中。越狱防御、内容安全、隐私脱敏。大厂/金融客户必过，半技术半政策，稀缺难替代。
  • 合规（备案/算法登记）：56K，中。国内硬刚需——生成式 AI 服务算法备案、安全评估、深度合成标识。越大厂越重，非技术但稀缺。
  • 数据飞轮：62K，中。合成/蒸馏/SFT 数据构建与回流。最持久最被忽视，是系统自我变好的永动机。

跨四族还有个 AI 系统架构 / System Design：把应用+模型+基建+治理拼成系统（成本估算/SLA/降级/容灾），中位 70K+，对应大厂 P7+/创业核心，是工程师→架构的最后一跳。

一个判断：这些不是单选，是组合拳。市场上最稳的画像不是”只会 RAG”或”只会微调”，而是”RAG + Agent + Eval”三件套。对你（5 年 Go 后端）最友好的两个方向是 Agent 编排和推理优化——它们偏系统工程，正好你的强项，不需补太多 ML。微调那档偏 ML，要冲得花时间补。

三、能力如何变成钱：北京 2026 的供需真相

光看方向薪资还不够——你得知道在哪卷、在哪稀缺。脉脉把 AI 岗位分三类，供需比（<1 缺人，>1 人偏多）：

类别内容供需比月薪信号
A 类（技术底座）AI Infra / 算法 / 高性能计算0.72~6.8万严重缺人，持续溢价
B 类（AI 应用开发）RAG / Agent / 应用集成1.25~6.0万已由供需平衡转向供给偏多
C 类（AI 使用者）仅会调模型/浅层使用2.45~5.0万竞争最激烈

关键信号：B 类（RAG/Agent 应用开发）供需比已升到 1.25，由供需平衡转向供给偏多。 也就是说，纯 RAG/Agent 的人正在快速变多，不再稀缺。

反观 A 类（技术底座）：高性能计算工程师供需比 0.26（约 4 岗抢 1 人）、云计算 0.38、AI 科学家/负责人 0.66、深度学习 0.70——底层能力极度稀缺、持续溢价。治理层的 AI 安全评估专业人员全国不到 3000 人，2026 需求预计破万，年薪中位已达 55 万——隐形稀缺。

需求侧盘子也大：北京 AI 岗位渗透率约 30%（全国第一），每 10 个新增技术岗就有 3 个 AI 相关；2026 上半年 AI 智能体开发需求 +244%，架构师新发职位 +76.74%；全国大模型相关专项缺口约 47 万。

把这段和第二节拼起来看，结论锋利：钱不是按”你会几招”线性涨，是按”你能横跨几族”指数涨。 单待应用层（RAG+Agent）天花板约 60K；伸进基建层（推理优化+LLMOps，你的强项）冲 70K+；再补治理层（评测+安全合规，最缺）接架构层，就是 80K 那档画像。这也回应了第一节——仿照能到的层 3 值 42K，而 deepwiki 真正值钱的层 5（62K）是仿照不来的，因为那需要你先被生产炸一遍。

四、谁在和你抢：求职者画像

市场供给严重分化，求职者大致五类：

  1. 转行后端工程师（你这一类）：科班、3-5 年、工程强、非 ML 科班。是 B 类主流供给，“会调 API”那档已卷；能冲到生产级+Infra 的极少，属稀缺尾部。你的起点在 B 类，目标跨进 A 类（Infra）和治理/架构。
  2. 算法硕博 / 顶会人才：NeurIPS/ICML/CVPR 等，供给极少，95% 以上被动求职。塔尖，大模型研究员年薪中位 120 万起。不是你的赛道，知道它在顶端即可。
  3. 应届 / 零基础转行（培训班）：C 类底层，供需比最差。市场”去初级化”——新发岗位中 1 年以内经验岗缩减约 20%。这档不值得停留。
  4. AI Infra / 系统工程师（HPC/C++/CUDA 转型）：供需比 0.26-0.72，比应用开发稀缺得多。最友好的稀缺路线——你的 Go/系统经验是近亲，转型摩擦小、溢价高、流动性低（在职时间长）。
  5. 复合型（AI + 行业）：金融/医疗/具身等垂直经验溢价 20-30%。2026 明确趋势——“通用型”向”场景型”转变，垂直经验价值上升。

年龄参考：30 岁以下 AI 活跃人才占比超 60%，35 岁以下超 93%（年轻化）。但应用开发岗不强制科班，工程能力 + 快速学习是硬指标——这正好是你这类人的窗口。

五、落到你：5 年 Go 后端的跃迁路线

把前面所有结论压成一条路径：

  1. 先把 RAG 推到生产级（层 5）：用 Go 写 mini-deepwiki 扔公网让人随便问，亲手踩 embedding 尺寸校验、输出截断、并发限流的坑。这一步把你在 B 类里从”会调”抬到”能扛”。
  2. 叠 Agent 编排：RAG + Agent + Eval 三件套是市场最稳应用组合，比单点深耕性价比高。
  3. 伸进基建层（你的强项）：推理优化 + LLMOps。把”应用开发”拉进供需比 <1 的 A 类稀缺区。
  4. 补治理层（最缺那块）：评测体系 + 安全/合规意识。公网服务迟早碰算法备案和内容安全，提前懂少踩雷。
  5. 目标架构层：能把四族拼成系统（成本/SLA/降级），就是 70K+ 那档画像。

你目前在应用层晃，最该伸的两只手：一只伸向基建层（省力、强项），一只伸向治理层（溢价高、最缺）。预训练那档不是你的战场，别被”听起来最牛”带偏。

收尾：能力 ≠ 薪资

回到开头那个 17.9k star 的项目。它火，不是因为难，是因为”把 RAG demo 推进到能用”卡住了绝大多数人。概念人人懂，完整度是分水岭。

但完整度也只是门票。北京 2026 的行情里，能把”造出 deepwiki”翻译成”我独立设计过生产级 RAG 系统，扛过 embedding 尺寸不一致、LLM 输出截断、并发限流”的人，才值 50K 起步；只会造、讲不清，市场按”又会一门 Python”算，约 35-45K。

所以最后一句实话：这能力在北京值 35K-70K/月（中位 50K）。但价格由”你能在面试里把项目讲成生产经验”决定，不是由”能不能造出来”决定。

自检二：deepwiki 那三个坑——embedding 尺寸校验、输出截断容错、asyncio.to_thread+Semaphore 并发模型——你能每个讲出”为什么这么设计、踩过什么雷、换你会怎么改”吗？讲得出来，50K 起步；讲不出，市场只认你是个”又会一门 Python 的 Go 后端”。

数据来源：智联招聘《2026 生产力人才发展报告》、脉脉高聘《2026 春招职场洞察》、猎聘大数据研究院、前程无忧、科锐国际、人社部及公开行业报告（交叉验证，时间跨度 2025Q4-2026Q2）。薪资为市场参考中位，个体因背书/公司/期权差异较大。