大模型安全工程师简历参考：岗位职责、技能要求与面试准备

大模型安全工程师是人工智能行业中的新兴岗位，属于AI安全方向，主要服务于使用大模型的企业或安全厂商。岗位的核心目标是确保大模型在生成内容、处理数据、调用工具时不会产生安全风险，例如输出有害内容、泄露敏感信息或被恶意攻击者利用。

适合对安全攻防感兴趣、具备算法或工程背景的求职者，尤其是熟悉机器学习、自然语言处理或网络安全的人群。该岗位需要既懂模型原理，又了解攻击手法，并能将防护策略落地到实际系统中。

大模型安全工程师的日常工作包括：对模型进行红队评测，模拟攻击行为；建设对抗样本库和自动化评测工具；设计输入输出过滤、上下文隔离等防护策略；跟踪线上告警并优化拦截效果。

典型工作流程是：需求分析→威胁建模→评测集构建→执行红队测试→漏洞修复→回归验证→上线监控。工程师需要与算法团队、业务团队和安全运营团队紧密协作，确保模型在安全性和可用性之间取得平衡。

• 负责基座模型、RAG应用和Agent系统的安全评测
• 开发自动化攻击样本生成与批量推理工具
• 设计并维护线上防护策略，如提示注入过滤、工具白名单
• 跟踪安全告警，分析误报和漏报，持续优化模型

大模型安全工程师经常面对的业务场景包括：企业客服机器人、智能写作助手、代码生成工具、知识库问答系统等。这些应用都可能成为攻击目标，例如通过恶意提示词诱导模型泄露训练数据或执行未授权操作。

在Agent系统中，安全工程师需要重点防护工具调用权限，防止模型被诱导调用危险工具或访问敏感资源。此外，还需要应对数据投毒、模型窃取等新型威胁。

• 对RAG应用进行提示注入测试，防止检索到恶意文档
• 评估Agent工具调用权限，防止越权操作
• 检测模型输出中的敏感信息泄露，如个人隐私或商业机密
• 参与安全事件响应，分析攻击路径并制定修复方案

大模型安全工程师需要掌握机器学习基础知识，熟悉Transformer架构和常见大模型（如GPT、LLaMA）的原理。同时要了解提示工程、RAG、Agent等应用技术，以及OWASP LLM Top 10等安全风险框架。

工程能力方面，需要熟练使用Python、PyTorch、Transformers库，了解vLLM等推理框架，并具备构建自动化评测系统的能力。此外，熟悉常见的攻击手法，如越狱、提示注入、对抗样本生成，是岗位的核心竞争力。

• 掌握Python、PyTorch、Transformers等工具
• 熟悉OWASP LLM Top 10风险类别
• 了解红队评测方法论和对抗样本生成技术
• 具备构建安全策略网关和日志审计系统的能力

招聘大模型安全工程师时，企业通常关注候选人的安全攻防经验、大模型应用理解以及工程落地能力。有红队评测、漏洞挖掘或安全运营经验的候选人更受青睐。

任职要求一般包括：计算机、信息安全或相关专业本科及以上学历；熟悉大模型安全风险；有实际项目经验，能独立完成评测和防护方案设计；具备良好的沟通能力和团队协作精神。

• 有算法安全或网络安全相关工作经验
• 熟悉大模型应用开发，如RAG、Agent
• 能独立设计并执行红队评测计划
• 具备快速学习能力和安全敏感度

下面整理了大模型安全工程师岗位求职中常见的搜索问题，方便快速了解职责、业务场景、技能要求和面试关注点。

大模型安全工程师需要熟悉多种工具和平台，用于构建评测和防护体系。常见的工具包括：用于对抗样本生成的TextAttack、用于模型推理的vLLM、用于向量检索的FAISS，以及用于安全策略配置的网关系统。

此外，还需要了解CI/CD流程，将安全评测集成到模型发布的流水线中，实现持续安全验证。掌握Docker和Kubernetes有助于部署和管理安全服务。

• 使用TextAttack等工具生成对抗样本
• 利用vLLM优化模型推理性能
• 构建基于规则的过滤器和分类器
• 将安全评测集成到CI/CD流水线

随着大模型在各行各业的广泛应用，安全需求日益凸显。大模型安全工程师的职业路径可以走向安全架构师、AI安全专家或安全团队负责人。

行业趋势方面，模型安全从单纯的文本过滤转向多模态安全、Agent安全、供应链安全等方向。同时，自动化评测和红队工具将更加成熟，安全工程师需要持续学习，保持对新型攻击手法的敏感度。

• 关注多模态大模型的安全风险
• 学习Agent安全与工具调用防护
• 参与开源安全社区和CTF竞赛
• 跟踪国内外AI安全法规和标准