AI安全与隐私工程师

1、Agent 攻防红队： 针对智能体系统进行“提示词攻击”测试（如直接/间接提示词注入、越权提权），挖掘 Agent 在自主决策路径上的漏洞； 2、工具调用安全（Tool/Plugin Security）： 评估并设计 Agent 调用外部接口（API、数据库、Shell）时的安全校验机制，防止非法指令执行；， 3、RAG 与隐私保护： 负责检索增强生成（RAG）过程中的数据权限控制，确保 Agent 在多租户、多角色环境下不发生敏感信息越权泄露；的 4、防御组件研发：开发与维护 Al 护栏（Guardrails）系统，对模型输入输出进行实时扫描、敏感词过滤及有害意图拦截；的 5、业务风险建模： 针对特定业务场景（如 Al 助手、自动化办公）进行威胁建模，制定 Agent 行为的安全基线。