LLM護盾:防止數據外洩及不當回應

簡介

應科院開發的一體化安全框架,專為企業使用LLM時,防敏感數據外洩及不良回應。系統結合敏感數據分類、領域專屬模型微調、格式保留加密及即時策略管理,保障資訊安全,提升AI應用的合規與可靠性。

  • LLM護盾:防止數據外洩及不當回應 0
  • LLM護盾:防止數據外洩及不當回應 1
完成研究日期
2025
商品化機會
知識產權授權模式,合作開發技術
解決方案

LLM廣泛應用於金融、法律、教育等領域,但數據外洩和不良回應問題加劇。現有LLM難以辨識企業敏感數據,缺乏保留情境語意的去識別化技術及動態政策整合功能,導致資訊安全、合規及信任度下降。

創新技術
  • 支持用戶自訂敏感數據分類與政策管理功能,支援跨行業、跨部門的安全需求,並能根據實際應用動態調整偵測規則。
  • 特定領域安全模型(DLMS),結合高效參數微調(LoRA),能準確識別並分類各種敏感實體。
  • 格式保留加密(FPE)技術,在不改變數據結構及上下文語義下加密敏感數據,兼顧資料可用性與隱私合規性。
主要成效
  • 大幅降低敏感數據外洩及AI不當回應風險,提升組織數據安全與合規能力。
  • 動態策略與自訂化安全政策,能即時回應最新法規與業界要求,支援彈性擴展。
  • 模組化架構易於整合現有IT系統,且可針對不同產業與應用場景調整部署。
  • 提供管理介面與儀表板,支援即時監控、異常警示與詳細合規報告,強化運營透明度。
應用範疇
  • 企業LLM應用中的的敏感數據防護
  • 金融、醫療、法律等高敏感領域的AI合規部署
  • 數據隱私保護、數據匿名化與審核流程自動化
  • AI回應內容的安全監控與政策強制執行

專利申請

  • 美國申請號 19/189,211; 中國專利申請中