互联网大模型预训练算法工程师3-5年
互联网大模型预训练简历案例与写作指南
5 年 NLP 与大模型经验，专注预训练数据工程（清洗/配比/去重）、MoE 训练、长上下文扩展与领域继续预训练。下面展示完整简历，并拆解适合复用的内容结构。
案例内容已做脱敏或示例化处理，仅供结构与表达参考。
这份案例怎么写
这份案例突出"数据与训练两手硬"：经历与项目一半篇幅给数据工程，一半给 MoE 与长上下文训练，贴合预训练岗位最看重的工作闭环。
条目强调前置校验与消融实验的方法过程，如配比实验、去重策略、稳定性预案，让评审看到的是可复现的工作习惯而非单点运气。
工作经历写法
大模型预训练算法工程师
2023.10 - 至今某大厂
- 负责千亿参数 MoE 模型预训练，主导数据配比与课程式训练策略，基准评测综合得分提升 7.4%
- 牵头长上下文扩展专项，将模型窗口从 8K 扩展到 128K，长文检索任务准确率提升 21 个百分点
- 建设预训练数据质量红线，上线前完成安全与重复度全量校验，累计拦截高风险语料约 3 万亿 token
NLP 算法工程师
2021.07 - 2023.09某互联网公司
- 负责搜索语义模型迭代，完成 BERT 类模型蒸馏与量化部署，推理成本下降 55%，相关性提升 4.2%
- 参与行业领域继续预训练，构建 800 亿 token 领域语料，下游客服问答任务准确率提升 9.8%
- 搭建数据清洗流水线，采用规则与质量打分模型级联过滤，高质量语料占比从 42% 提升至 78%
项目经历怎么取舍
选取数据工程、MoE 稳定性、继续预训练三个项目：分别回应预训练面试必问的数据从哪来、训练怎么稳、领域怎么适配三类问题，每个项目都以可对标的指标收尾，避免空谈模型规模。
万亿 token 预训练数据工程体系
2024.01 - 2025.03数据方向负责人
- 统筹万亿 token 级语料的清洗、去重与配比，构建启发式规则、质量打分与毒性检测三级过滤流水线
- 通过配比消融实验确定最优混合比例，MinHash 与精确去重结合将冗余数据占比压降 60%
- 以数据为中心的改造让同规模模型基准得分提升 5.2%，数据工程成为团队预训练标准前置环节
MoE 训练稳定性与长上下文扩展
2025.04 - 至今核心成员
- 参与千亿级 MoE 模型训练，定位路由负载不均问题，结合专家容量与辅助损失调优，训练吞吐提升 18%
- 实施长上下文三阶段扩展方案，8K 到 128K 全流程 loss 曲线平稳，长文 RULER 达到同类开源模型水平
行业大模型继续预训练
2021.10 - 2023.05主要贡献者
- 面向金融问答场景做继续预训练与对齐，构建 800 亿 token 领域语料并设计通用能力保持的混合配比
- 最终领域任务准确率提升 9.8%，通用基准回退控制在 1.5% 以内，模型以 API 形式服务 20+ 业务方
常见问题
这份大模型预训练算法工程师简历适合什么经验阶段？
案例按3-5年经验设计，适合作为同阶段求职者的结构和表达参考。
可以直接复制这份简历吗？
可以先复制到编辑器，但必须把公司、项目、数据和技能替换成自己的真实经历。
怎样让案例更匹配目标岗位？
对照目标岗位描述，优先保留与大模型预训练算法工程师直接相关的经历、成果和关键词。