大模型安全工程师是人工智能行业中负责保障大模型应用安全的关键岗位,主要工作包括对基座模型、RAG和Agent应用进行红队评测,发现越狱、提示注入、敏感信息泄露、工具滥用等安全风险,并建设安全评测平台和线上防护策略。岗位要求具备扎实的算法安全基础、熟悉大模型技术栈(如PyTorch、Transformers、vLLM),掌握OWASP LLM Top 10等安全知识,同时需要有攻防实战经验和平台建设能力。适合有安全背景、对AI安全感兴趣、具备较强工程能力的求职者参考。
这份简历面向人工智能行业的大模型安全工程师岗位。该岗位主要负责对基座模型、RAG应用和Agent系统进行上线前的红队评测,发现并修复越狱、提示注入、敏感信息泄露、工具滥用等安全漏洞;同时建设对抗样本库、自动化评测平台和线上防护策略,保障模型在业务中的安全落地。常见能力要求包括熟悉Python、PyTorch、Transformers等工具,理解OWASP LLM Top 10风险,具备攻防思维和工程化能力。适合有算法安全、网络安全或AI工程背景,并对大模型安全攻防感兴趣的求职者参考。