LLM护盾：防止数据泄漏及不当回应

简介

应科院开发的一体化安全框架，专为企业使用LLM时，防敏感数据泄漏及不良回应。系统结合敏感数据分类、领域专属模型微调、格式保留加密及实时策略管理，保障信息安全，提升AI应用的合规与可靠性。

完成研究日期

2025

商品化机会

知识产权授权模式，合作开发技术

解决方案

LLM广泛应用于金融、法律、教育等领域，但数据泄漏和不良回应问题加剧。现有LLM难识别企业敏感数据，缺乏保留上下文语义的去标识化技术和动态政策集成功能，导致信息安全、合规及信任度下降。

创新技术

支持用户自定义敏感数据分类与策略管理功能，满足跨行业、跨部门安全需求，并能根据实际应用动态调整检测规则。
特定领域安全模型（DLMS），结合高效参数微调（LoRA），可准确识别与分类多种敏感实体。
格式保留加密（FPE）技术，在不改变数据结构及上下文语义下加密敏感数据，兼顾数据可用性与隐私合规性。

主要成效

显著降低敏感数据泄漏及AI不当回应风险，提升企业数据安全与合规能力。
动态策略与自定义安全政策，可即时响应最新法规和行业需求，支持灵活扩展。
模块化架构便于集成现有IT系统，并可根据不同行业与应用场景灵活部署。
提供管理界面和仪表盘，支持实时监控、异常警告和详细合规报告，增强运营透明度。

应用范畴

企业LLM应用中的敏感数据防护
金融、医疗、法律等高敏感行业的AI合规应用
数据隐私保护、数据匿名化及审核流程自动化
AI回应内容的安全监控与政策强制执行

专利申请

美国申请号 19/189,211; 中国专利申请中

香港应用科技研究院

香港应用科技研究院（应科院）于2000年由香港特别行政区政府成立。作为香港最大的政府资助研发中心，应科院不仅是推动科技进步的重要力量，更担当促进香港、大湾区以至全球创新生态圈发展的「超级联系人」角色。应科院在与纳米及先进材料研发院（NAMI）合并后，此角色进一步得以强化。

应科院积极推动跨学科、市场导向的研发，致力将具重大影响力的科研成果从实验室推向市场应用，为业界带来实用的创新科技，并为社会创造经济效益。凭借其科技优势及实力，应科院在多个领域提供以人工智能驱动的跨学科资讯及通讯科技，以及先进材料解决方案。