LLM护盾:防止数据泄漏及不当回应

简介

应科院开发的一体化安全框架,专为企业使用LLM时,防敏感数据泄漏及不良回应。系统结合敏感数据分类、领域专属模型微调、格式保留加密及实时策略管理,保障信息安全,提升AI应用的合规与可靠性。

  • LLM护盾:防止数据泄漏及不当回应 0
  • LLM护盾:防止数据泄漏及不当回应 1
完成研究日期
2025
商品化机会
知识产权授权模式,合作开发技术
解决方案

LLM广泛应用于金融、法律、教育等领域,但数据泄漏和不良回应问题加剧。现有LLM难识别企业敏感数据,缺乏保留上下文语义的去标识化技术和动态政策集成功能,导致信息安全、合规及信任度下降。

创新技术
  • 支持用户自定义敏感数据分类与策略管理功能,满足跨行业、跨部门安全需求,并能根据实际应用动态调整检测规则。
  • 特定领域安全模型(DLMS),结合高效参数微调(LoRA),可准确识别与分类多种敏感实体。
  • 格式保留加密(FPE)技术,在不改变数据结构及上下文语义下加密敏感数据,兼顾数据可用性与隐私合规性。
主要成效
  • 显著降低敏感数据泄漏及AI不当回应风险,提升企业数据安全与合规能力。
  • 动态策略与自定义安全政策,可即时响应最新法规和行业需求,支持灵活扩展。
  • 模块化架构便于集成现有IT系统,并可根据不同行业与应用场景灵活部署。
  • 提供管理界面和仪表盘,支持实时监控、异常警告和详细合规报告,增强运营透明度。
应用范畴
  • 企业LLM应用中的敏感数据防护
  • 金融、医疗、法律等高敏感行业的AI合规应用
  • 数据隐私保护、数据匿名化及审核流程自动化
  • AI回应内容的安全监控与政策强制执行

专利申请

  • 美国申请号 19/189,211; 中国专利申请中