FDE是什么?如何在FDE中优化成本?
FDE 到底是干什么的
最近刷技术社区,FDE 出现的频率明显高了,招聘帖、入行指南、开源知识库都有。名字听着新,岗位本身其实不新。
2020 年 11 月,Palantir 官方博客发过一篇 FDSE(Forward Deployed Software Engineer)的日常访谈,内部代号叫 Delta。文中的定义是直接嵌入客户团队,配置 Palantir 已有的软件平台,解决客户最棘手的问题。日常活包括在平台上设计和测试工作流、处理 TB 级数据管道、按合规要求配置访问控制、给非技术用户做数据可视化、排查生产故障。工程纪律一样不少,代码评审、可部署性优化、生产监控都要做。
同一篇文章把它和产品研发的区别讲得很直白。产品研发专注做一个能被很多客户使用的能力,FDSE 专注为一个客户启用很多能力;FDSE 做出的通用成果,有机会被收进基础平台。文中还说,一些最有价值的产品功能最早就诞生在一线。另外它特意强调 FDSE 不同于顾问,因为可以直接组合平台里的现成能力,不必每个客户从零搭建。
到了 2026 年,这个岗位重新火起来,原因是大模型和 Agent 进企业时普遍卡在部署环节。模型能力够了,接进客户自己的系统、数据和审批流程却没人干。阿里云开发者社区的一篇文章把 FDE 概括为一个客户、多项能力、写生产代码、对结果负责,这个说法我觉得挺准。
近期有两个公开案例值得看。
一个是 Mastra,11 月 5 日推出 Custom Harness Program,派 FDE 直接进客户的代码仓库和 Slack,一起搭定制的智能体框架。官方列出的交付内容里,第一天就要接上可观测性、评估和打分,还包括认证、RBAC 和治理控制。博客给的 Workday 案例是,从 Amazon Bedrock Agents 迁到 Mastra 用了 31 天,删掉 3000 行代码,向量存储成本下降 98%;Workday 安全团队搭的 SRE 告警分诊 harness,每条告警处理约 60 秒。文中没有披露这个项目怎么收费。
另一个是法律 AI 公司 Legora。CTO Jacob Lauritzen 在 Latent Space 访谈里讲了他们的分工。legal engineer 是第一道防线,以高级用户身份配置产品,不写代码;需要改核心产品或做定制集成时,FDE 作为第二道防线介入,写生产代码,并把学到的东西反馈给核心产品。只有达到一定规模的客户才会配 FDE。他们还计划组建轮转的 FDE 团队,每次驻客户约两个月。
FDE 项目的钱,主要花在哪三块
第一块是人。FDE 要同时会写代码、懂业务、能跟客户沟通,薪酬对标一线研发,这一点多篇中文解读都提到了。觉醒 AI 知识库收录的一篇 FDE 一线笔记里,作者的观点更尖锐。他认为只招顶尖人才没法规模化,而轮换制会让工程师花三个月熟悉客户系统后被调走,接任者从头开始,上下文跟着人一起流失,他直接称之为换了更好品牌的咨询。这是作者个人判断,但人力成本最大、最难压的结论大致没错。
第二块是模型调用。FDE 交付的系统上线后,每天都在烧 token,而且这笔钱经常没有明确的负责人。Legora 的 CTO 在访谈里说,约六成的法律工作模型已经能做好,剩下的主要是成本和延迟问题。访谈中主持人提到用高端模型会让额度消耗快很多,他也表示认同。Arena 在 X 上发布的分析则给了另一个角度,Agent Arena 排名前十的智能体,每生成一个 token 大约要处理 93 个输入 token。对 Agent 类系统来说,输入侧和缓存才是账单大头,光盯输出单价意义不大。
第三块是基础设施与采购。向量库、日志、评估环境、多家模型账号、海外支付和对账,单看都不大,叠起来很可观。Workday 迁移后向量存储成本下降 98%,说明架构选型本身就是成本项。多家官方账号分别开通、分别充值、分别对账,也会把 FDE 的时间耗在杂事上。
第一刀,先在人力上分层
我觉得最有效的一刀是别让 FDE 去干配置工程师就能干的活。Legora 的双层结构可以直接借鉴,先让懂业务的配置型角色用产品原语搭方案,只有涉及集成和核心改动时才派 FDE。并且不是每个客户都配 FDE,只给规模够大的客户配。
第二个习惯是每次交付都想一下,这里面哪些东西下一个客户还能用。Palantir 那套产品研发和 FDSE 的分工,本质就是把一线做出的通用部分回收进平台。FDE 写的连接器、评估集、提示词模板、权限配置脚本,整理好放进内部仓库,下一个项目就能少写一大截。
第三是把交接当交付物。运行手册、架构图、已知问题清单、评估基线,在驻场期间就写,不要等离场前一周补。轮换不可避免时,这些材料决定了接任者是第一周就能干活,还是重新摸索三个月。
最后是敢于拒绝。Legora 的 CTO 在访谈里很坦白,有些客户的定制需求过于庞大,他们会直说做不了。范围和验收标准在立项时就约定清楚,比上线后无限返工省钱得多。
第二刀,模型账单按任务路由
企业工作流里,大部分模型调用其实是分类、抽取、改写、格式检查,真正需要旗舰模型推理的只是少数环节。全部默认走旗舰,是 FDE 项目里最常见的浪费。
拿接口AI 定价页 2026 年 11 月 6 日的在售价格举例,单位都是每百万 token。旗舰档里,claude-opus-5-5 输入 $4、输出 $20,gpt-6-astra 在 272K 以内档位输入 $9.5、输出 $47.5。中档的 claude-sonnet-5-5 和 gpt-6.1-sol 都是输入 $2、输出 $10。轻量档里,gpt-5.6-luna 输入 $0.2、输出 $1.2,DeepSeek V4.1 Flash 输入 $0.3、输出 $1.2,GLM 5.3 Flash 输入 $0.15、输出 $0.5,Qwen3.8 Flash 输入 $0.15、输出 $0.47。旗舰和轻量档的单价差距在一个数量级以上。
落到项目里,可以这样分。复杂规划、疑难排查、需要长链推理的环节留给旗舰;常规的工具调用和生成交给中档;高频的路由判断、字段抽取、结果校验交给轻量模型。Legora 的做法也类似,线上评估直接用很便宜的模型做检查,只有当前沿模型和后训练模型之间差距明显时,才考虑对开源模型做后训练。
还有一个容易忽略的点,能直接调 API 的步骤,就别让 Agent 去代劳。Legora 访谈里讨论过这个问题,用 Agent 充当 API 远不如直接调用高效,执行结果、成本和延迟都不可控,还多了非确定性。确定性的步骤写成代码,模型只负责真正需要判断的地方。
第三刀,缓存和可观测性从第一周就上
既然 Agent 的输入远多于输出,缓存就是性价比最高的优化。系统提示词、工具定义、客户的业务规则这类稳定内容放在请求前部,尽量保持不变,变化的内容往后放。接口AI 定价页上,claude-opus-5-5 的缓存读取价是 $0.2,claude-sonnet-5-5 是 $0.1,都远低于各自的普通输入价。
不过缓存不是开了就省。接口AI 的计费文档写明,部分模型(例如 Claude)的 Prompt Caching 未命中时会按缓存输入价格计费,可能比普通输入更贵。所以上线前要用真实请求测命中率,提示词前缀频繁变动的场景反而可能更费钱。
可观测性同样要从第一周开始。Mastra 把可观测性、评估和打分列为第一天就接入的内容,我很认同。没有调用记录,就不知道钱烧在哪个环节,所有优化都是猜。至少要记下每次调用的模型、输入输出 token、缓存命中情况、耗时和所属业务流程,月底复盘时才拿得出数据。
第四刀,采购和账单,把成本拆得清清楚楚
FDE 项目通常是多个工程师、多个模型、多个客户同时在跑,账单最好集中在一处管。这一块接口AI 能直接帮上忙。
接入层面,平台提供 OpenAI 兼容接口和 Anthropic 原生接口,国内可直连的 Base URL 是 https://api.highwayapi.ai/openai ,一个密钥就能调用上面提到的各家模型,路由策略切换模型时不用改调用代码。充值以美元计价,支持支付宝,页面显示实时汇率,省掉了为每家官方单独办海外卡的麻烦。
团队管理层面,账户可以升级为团队账户,支持所有者、管理员、开发者、基础用户、财务管理员五种角色,最多邀请 50 名成员。每位驻场工程师用自己的成员账号,账单交给财务管理员,平台可以分析每位成员的使用数据,所有者和管理员能查看审计日志。详细用量页还能按模型查看 token 明细。注意升级为团队账户后不能降回个人账户。如果要按客户归集成本,建议在自己的调用层给每个请求加上客户标签,平台的成员和模型维度再配合这份记录对账。
预算层面,POC 阶段适合用特惠资源包封顶。资源包按月订阅,Lite 档 20M 融合 token 月付 $15.9(刊例 $20),Pro 档 100M 月付 $79.9(刊例 $100),Max 档 300M 月付 $239.9(刊例 $300),标注为官方资源。融合 token 以 claude-haiku-4-5 的输入价为基准,调用其他模型时按目录价比例折算抵扣。
还有几条规则,签约前最好先知道。限速按单个模型的 RPM 和 TPM 计算,账户等级依据最近三个自然月里单月最高充值金额,分 T1 到 T5 五级,超限会返回 429。客户现场演示或批量跑数之前,先确认等级够用,并在代码里做好指数退避。发票方面,接口AI可以开具大陆发票,解决了企业使用最前沿模型的困难。已使用的余额一般不退,接第三方工具前建议先小额充值跑通。
我的 FDE 项目省钱清单
- 立项前约定范围和验收标准,超出范围的定制需求明确拒绝或单独报价。
- 先派配置型角色,只有集成和核心改动才让 FDE 介入,FDE 只配给规模够大的客户。
- 第一周接上调用日志、评估和打分,记录模型、token、缓存命中和耗时。
- 按任务难度给模型分层,轻量模型负责高频判断和校验,旗舰模型只留给少数关键环节。
- 稳定内容放在请求前部,用真实请求测缓存命中率,再决定是否开启缓存。
- 确定性步骤写成代码,不交给 Agent 代劳。
- 把连接器、评估集、提示词模板整理进内部仓库,每个项目结束时回收一次。
- 交接文档在驻场期间持续更新,离场时交付运行手册和评估基线。
评论区
你们团队的 FDE 现在主要卡在哪,是人手不够、客户需求越做越大,还是模型账单月底才发现超了?欢迎回帖聊聊你们的分工方式和成本拆分办法,真实项目里的踩坑记录比泛泛而谈的经验更有参考价值。
参考资料
- Palantir Blog,A Day in the Life of a Palantir Forward Deployed Software Engineer,blog.palantir.com,2020-11-02(访问日期 2026-11-06)
- Mastra Blog,Announcing Custom Harness Program,mastra.ai/blog/announcing-custom-harness-program,2026-11-05(访问日期 2026-11-06)
- Latent Space,Legora CTO Jacob Lauritzen 访谈,latent.space/p/building-ai-for-lawyers-jacob-lauritzen-cto-of-legora,2026-11-03(访问日期 2026-11-06)
- 觉醒 AI 知识库,FDE 一线笔记,jxxy.net/ai/articles/notes-on-fde,2026-09-12(访问日期 2026-11-06;文中观点为原作者个人判断)
- 阿里云开发者社区,FDE前线部署工程师,你看好吗?,developer.aliyun.com/article/1757335,2026-08-21(访问日期 2026-11-06)
- Arena 在 X 发布的 Agent Arena 输入输出比分析,x.com/arena,2026-11-03(访问日期 2026-11-06)
- 接口AI(JieKou.AI)定价页、资源包页,以及帮助文档中的计费、发票、团队与限速说明,jiekou.ai、docs.jiekou.ai(访问日期 2026-11-06)