AI+安全
数据安全
数据基础设施
态势感知
云安全
基础安全
终端安全
商用密码
软件供应链安全
网络空间靶场
工业互联网安全
物联网安全
安全托管服务
运营管理服务
五大能力覆盖四大风险！详解面向大模型建设方的安全防护方案
大模型技术广泛应用下安全问题频出
随着大模型技术的广泛应用，其安全问题日益凸显。从 ChatGPT 的 “奶奶漏洞” 导致Windows 系统可用序列号泄露，到多款儿童手表出现不当回答引发社会争议，再到 DeepSeek 因特定文字陷入输出异常，这些事件都警示着大模型安全面临严峻挑战。
同时，国内外陆续出台相关法规，如欧盟的《人工智能法案》、我国的《生成式 AI 服务管理暂行办法》等，对大模型的安全合规提出严格要求。在此背景下，为保障大模型的安全运行，构建一套全面有效的安全建设方案迫在眉睫。
（一）数据安全风险
数据泄露与窃取：大模型训练数据量庞大且包含敏感信息，存储和传输环节一旦加密或访问控制不当，容易被黑客窃取，如 2023 年某公司因服务器漏洞导致大量用户训练数据泄露。
数据投毒：攻击者向训练数据注入恶意数据，干扰模型正常训练，影响输出结果准确性，像图像识别模型训练时被混入篡改图像，降低特定类别识别率。
（二）模型安全风险
对抗攻击与指令攻击：攻击者构造特殊输入，让模型产生错误预测或泄露敏感信息，如自然语言处理模型受对抗样本影响输出虚假信息。
模型滥用与数据泄露：未经授权使用模型或在模型运行中因漏洞泄露训练数据，小型企业私自使用未授权开源模型，且可能因模型漏洞导致数据泄露。
模型漏洞与病毒威胁：模型自身代码缺陷易被利用，还可能遭受病毒、恶意软件入侵，某大模型曾因代码逻辑漏洞被获取内部参数，部分模型感染恶意软件导致计算资源被占、服务中断。
（三）内容安全风险
意识形态与内容偏见：模型输出内容可能包含不良意识形态或偏见信息，如儿童手表回答涉及歧视性言论、否认历史事实等。
商业版权：模型生成内容可能侵犯他人版权，生成的文章、图片与已有版权作品相似，引发法律纠纷。
（四）运行环境安全风险
应用安全风险：大模型应用存在 SQL 注入、XSS 等漏洞，易被攻击，某在线智能客服应用曾因此导致用户信息泄露和服务中断。
主机脆弱性风险：承载大模型的主机若未及时更新补丁，容易成为攻击目标，如 2025 年某企业大模型主机遭勒索病毒攻击，数据加密、业务瘫痪。
软件供应链风险：使用的第三方软件或组件存在安全隐患，攻击者可借此入侵系统，某大模型依赖的开源组件有漏洞，导致敏感信息被获取。
覆盖大模型资产从语料输入、模型输入输出内容到事后审计封禁全链路防护路径。
（一）数据安全防护
访问控制与加密：运用零信任身份认证体系，严格划分人员权限，对敏感数据加密存储与传输，如 RAG 语料库依角色权限划分，确保数据输入源头安全。
数据脱敏与监控：在数据输入阶段脱敏处理敏感信息，实时监控数据流动，及时发现异常。
（二）模型安全防护
模型检测与加固：全面梳理模型资产，排查漏洞，定期检测修复，增强安全性。
病毒防护与攻击防御：安装专业杀毒和恶意软件检测工具，结合 ATTCK 框架，构建多维度防护体系，抵御各类攻击。
（三）内容安全防护
内容检测引擎：内置安全引擎，输入阶段评估提示词，输出阶段检测违规内容，通过敏感词匹配、语义分析、模型推理三道防线拦截不良信息。
多语言内容处理与风险防控：支持多语言检测，分析不同语言区域内容风险趋势，针对性调整策略，防范违规信息传播。
（四）运行环境安全防护
主机安全防护：实时监测主机网络连接，实施黑白名单访问控制，自动检测修复漏洞。
应用安全防护：加强 Web 和 API 安全防护，检测拒绝服务攻击，保障应用稳定。
软件供应链管理：严格评估审查第三方软件组件，及时更新有隐患的组件。
（五）安全审计与追溯
异步扫描与记录：自主配置闲时扫描，记录输入输出内容，梳理违规情况，多渠道告警。
违规追溯与处理：利用零信任身份管理识别违规用户，统计分析违规行为，采取封禁、限制访问等措施。
（一）RAG 入库语料安全
痛点：用户投喂语料时，不同角色成员可能获取超出权限范围的资料。
解决方案：借助零信任身份认证体系划分人员权限，设置独立的 RAG 语料库，实现数据输入源头的精准控制。
（二）敏感数据安全脱敏
痛点：问答结果输出阶段，敏感信息易泄露，如个人简历、薪资等。
解决方案：在数据输入阶段介入脱密信息处理，使进入 RAG 语料库的资料均为脱敏后材料，基于大模型的智能脱敏在保护敏感信息的同时保留数据可用性。
（三）模型输入输出内容违规
痛点：使用者输入违规内容，诱导模型生成非法结果，造成不良影响。
解决方案：内置大模型内容安全引擎，在输入阶段评估提示词，防止生成非法结果；在输出阶段检测违规内容，及时阻断并进行事后审计。支持模型接口代理方式实时检测与阻断，通过三道过滤防线保障内容安全。
