AI+安全
数据安全
数据基础设施
态势感知
云安全
基础安全
终端安全
商用密码
软件供应链安全
网络空间靶场
工业互联网安全
物联网安全
安全托管服务
运营管理服务
-
企业安全大模型安全解决方案
随着大模型迈入2.0阶段，各企业在借助大模型提升生产力的同时也伴随严峻的安全挑战。数据显示，2024年全球大模型相关漏洞数量激增38.61%，对抗攻击、数据泄露等风险频发。政策层面，《生成式AI服务管理暂行办法》等法规密集落地，要求企业构建覆盖数据、模型、应用的全生命周期安全体系 。通过事前检测评估、事中运行防护对企业大模型安全知识库建设及备案上线，运行时抵御网络入侵并确保输出内容合规及安全，助力企业在大模型2.0时代高效数字化发展。
-
-
-
-
大模型应用服务被攻击
大模型应用服务存在漏洞、弱口令等脆弱性风险，可能被病毒入侵、网络攻击等造成服务异常，严重的还可能因为投毒改变模型本体能力。
-
-
-
-
RAG语料导致数据泄露
在微调、训练及构建知识库中未识别敏感信息进行清洗，导致企业机密与用户隐私外泄，如医疗病历、金融交易记录等。
-
-
-
-
模型输出内容风险
生成内容存在违反社会主义核心价值观、事实性错误或偏见等误导用户决策，引发舆情危机（如虚假政策解读），也不满足《生成式AI服务管理暂行办法》等法规。
-
-
-
-
使用失管及不安全输出
违规使用大模型应用或缺乏本地数据访问控制造成商业秘密泄露，被大模型生成的钓鱼信息、恶意代码等入侵企业网络。
-
-
-
大模型风险检测与闭环
多维度风险探测引擎及闭环处置机制，保障大模型底层系统、中间件、应用组件及语料数据的安全性，覆盖漏洞检测、敏感信息识别等关键环节，实现AI系统全生命周期安全检查。
-
-
大模型安全防护
为大模型资产提供全链路的安全防护，从语料输入到模型输出，再到事后审计封禁，实现主机安全、语料输入安全、模型资产安全以及内容安全防护。
-
-
AI办公安全助手
专注办公场景下 AI 应用安全，对 AI 应用资产、资源访问控制、AI敏感信息保护等多方提供安全应用保障，构筑AI应用安全防线。
- 训练数据保护
- 大模型服务备案
- 大模型使用管控
- 生成内容合规管理
- 输入数据防泄漏
- 主机安全实时防护
-
-
场景描述：
语料库未分级分类，开发人员可能误用含敏感信息的数据集。
场景方案：
在大模型微调、训练、构建知识库前，对数据进行扫描检测识别敏感信息，并对数据进行分类分级或清洗脱敏，防止敏感信息进入大模型。
-
-
场景描述：
企业需通过网信办备案审查，但线下流程耗时3个月以上，技术整改难度大。
场景方案：
为大模型服务商提供内容安全合规改造咨询服务，围绕《生成式人工智能管理办法》合规要求，协助企业快速完成大模型相关内容安全建设，快速大模型完成测评备案工作。
-
-
场景描述：
大模型使用失管可能造成数据泄露或非授权使用。
场景方案：
根据实际业务及安全性考虑，对不同终端访问多个大模型服务进行访问权限策略控制，并审计相应的大模型使用记录，确保企业内安全可控的大模型使用。
-
-
场景描述：
模型输出可能包含意识形态偏差、暴力色情等违规内容，需实时检测阻断。
场景方案：
在输入阶段对提示词进行评估，防止生成非法结果；在输出阶段对模型生成的内容进行违规检测，及时阻断非法内容输出和事后审计。
-
-
场景描述：
用户模型输入时可能上传身份证、薪资等敏感数据，导致隐私泄露。
场景方案：
在输入时对内容、附件进行敏感信息识别，当发现含敏时进行脱敏或拦截处理，确保大模型不吃敏。
-
-
场景描述：
模型服务器存在弱口令、未修复漏洞，易被入侵植入恶意代码或窃取训练数据。
场景方案：
从主机漏洞、病毒、黑客入侵、网络访问控制等方面进行实时的入侵检测与防护，确保大模型主机运行环境安全，抵御网络入侵攻击。
