LLM護盾：防止數據外洩及不當回應

簡介

應科院開發的一體化安全框架，專為企業使用LLM時，防敏感數據外洩及不良回應。系統結合敏感數據分類、領域專屬模型微調、格式保留加密及即時策略管理，保障資訊安全，提升AI應用的合規與可靠性。

完成研究日期

2025

商品化機會

知識產權授權模式，合作開發技術

解決方案

LLM廣泛應用於金融、法律、教育等領域，但數據外洩和不良回應問題加劇。現有LLM難以辨識企業敏感數據，缺乏保留情境語意的去識別化技術及動態政策整合功能，導致資訊安全、合規及信任度下降。

創新技術

支持用戶自訂敏感數據分類與政策管理功能，支援跨行業、跨部門的安全需求，並能根據實際應用動態調整偵測規則。
特定領域安全模型（DLMS），結合高效參數微調（LoRA），能準確識別並分類各種敏感實體。
格式保留加密（FPE）技術，在不改變數據結構及上下文語義下加密敏感數據，兼顧資料可用性與隱私合規性。

主要成效

大幅降低敏感數據外洩及AI不當回應風險，提升組織數據安全與合規能力。
動態策略與自訂化安全政策，能即時回應最新法規與業界要求，支援彈性擴展。
模組化架構易於整合現有IT系統，且可針對不同產業與應用場景調整部署。
提供管理介面與儀表板，支援即時監控、異常警示與詳細合規報告，強化運營透明度。

應用範疇

企業LLM應用中的的敏感數據防護
金融、醫療、法律等高敏感領域的AI合規部署
數據隱私保護、數據匿名化與審核流程自動化
AI回應內容的安全監控與政策強制執行

專利申請

美國申請號 19/189,211; 中國專利申請中

香港應用科技研究院

香港應用科技研究院（應科院）於2000年由香港特別行政區政府成立。作為香港最大的政府資助研發中心，應科院不僅是推動科技進步的重要力量，更擔當促進香港、大灣區以至全球創新生態圈發展的「超級聯繫人」角色。應科院在與納米及先進材料研發院（NAMI）合併後，此角色進一步得以強化。

應科院積極推動跨學科、市場導向的研發，致力將具重大影響力的科研成果從實驗室推向市場應用，為業界帶來實用的創新科技，並為社會創造經濟效益。憑藉其科技優勢及實力，應科院在多個領域提供以人工智能驅動的跨學科資訊及通訊科技，以及先進材料解決方案。