一、背景概述
随着大模型、生成式AI、AI Agent等技术在企业中的广泛应用,人工智能正逐步融入研发、运营、客服、营销、办公等核心业务场景,在提升效率和推动创新的同时,也带来了数据安全、模型安全、内容安全、算法治理及合规管理等新挑战。
与此同时,《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》等法规标准陆续落地,企业面临越来越高的AI安全与合规要求。如何建立安全、合规、可信的AI治理体系,已成为企业推进AI战略的重要基础。
二、团队能力
- 国际化专业背景。团队核心成员具备国际四大会计师事务所、外资金融机构、头部网络安全企业的从业经历。
- 丰富项目经验。团队核心成员拥有近二十年数字化、信息技术及风险管理领域从业经验,累计服务数百家企业客户,涵盖世界500强企业、央国企集团、上市公司及创新科技企业。
- 多行业实践积累。长期深耕金融、汽车、制造、能源、医药、零售、物流、文旅等行业,对行业监管要求与业务运营特点具有深入理解。
- 复合型专业能力。具备战略规划、风险管理、信息系统审计、数字化治理、网络安全、数据安全及人工智能治理等跨领域专业能力。
- 资本市场与监管合规经验。深入了解资本市场对信息系统控制、数据合规的监管要求,具备ITGC审计、IPO信息系统审计、内部控制评价、数据合规等项目经验。
- 专业资质认证。团队成员持有CISSP、CISA、CISM、CIPM、CISP、PMP、TOGAF、ITIL Expert、COBIT等多项国际权威专业认证。
三、主要服务内容
面向管理层、全体员工或指定的业务及职能部门,开展AI安全意识能力提升,提升企业对AI安全风险的认知。
主要内容
- AI发展趋势与行业应用
- AI安全风险与典型案例
- 数据安全与隐私保护
- 大模型与Agent安全风险
- 国内外AI安全法规解读
- 企业AI安全规范建设
从战略规划、数据基础、技术能力、组织保障及治理机制等维度,评估企业AI发展现状,识别高价值应用场景。
主要内容
- AI成熟度评估
- 数据与技术能力分析
- AI场景识别与价值评估
- 场景优先级排序
- AI建设路线规划
依据国内法规及国际标准,对企业AI应用开展全面合规评估,识别风险并制定整改方案。
主要内容
- 数据合规评估
- 内容合规评估
- 模型管理评估
- AI治理机制评估
- 法规符合性分析
针对企业自研或部署的大模型开展专项评估,验证模型的安全性、可靠性和合规性。
主要内容
- Jailbreak越狱测试
- Prompt泄露测试
- 数据泄露与模型窃取风险分析
- 幻觉与内容安全评估
- 模型备案与合规性评估
针对AI Agent、RAG知识库、多智能体系统及智能工作流平台开展专项安全评估。
主要内容
- Prompt Injection攻击测试
- RAG知识库安全评估
- Agent越权访问测试
- Agent行为安全评估
- MCP及工具链安全评估
参考ISO/IEC 27001信息安全管理体系(ISMS)、NIST AI RMF人工智能风险管理框架以及ISO/IEC 42001人工智能管理体系,协助企业建立覆盖组织、制度、流程、技术及运营的AI安全治理体系,实现AI风险的持续管理与安全运营。
主要内容
- AI安全治理组织与职责体系建设
- AI安全管理制度与规范建设
- AI安全监测、审计与运营机制建设
主要成果
- AI安全治理框架
- AI安全管理制度体系
- AI安全治理实施路线图