第一原理
指引我們 Idea Security 方法的核心信念。這些不是行銷口號，而是塑造每一項產品決策的約束條件與堅定信念。
這些原則，連同應用於 AI 系統的 Idea Security、Idea Security 以及 Idea Leakage 等概念，皆由 SenTeGuard 創辦人 David Weidman 開發。
去中心化利益優於平台依賴
AI 產業正向少數基礎模型供應商集中。OpenAI、Anthropic、Google 和 Meta 控制著日益支撐關鍵業務流程的基礎設施。這種集中化帶來了系統性風險。
SenTeGuard 採取不同的立場：我們相信組織應該掌控自己的 AI 命運。我們的工具可跨供應商運作。我們協助您建立不受供應商更換影響的安全計畫。我們不會將您鎖定在我們的平台上，而是為您提供可攜式政策與可匯出資料。
我們不是在解決 OpenAI 的問題或 Anthropic 的問題。我們是在解決您的問題，無論您選擇哪種模型，這些問題都依然存在。
相關工作： Joseki:WrapperHub 將版本化提示詞、評估指標與安全規格進行封裝，使行為能夠跨模型無縫遷移，並與 SenTeGuard 提供的執行時期保護相輔相成。閱讀介紹文章 →
這在實務上的意義
- SenTeGuard 可與任何 LLM 供應商搭配運作
- 政策獨立於供應商且具備可攜性
- 我們鼓勵多供應商策略
- 無廠商鎖定：隨時匯出您的資料與設定
- 我們支援自行託管與開源模型
典範轉移
| 二元運算 | 語意運算 |
|---|---|
| 衡量等價性 | 衡量相近度 |
| 這是密碼嗎？ | 這與機密相似嗎？ |
| 精確模式比對 | 基於語意的推論 |
| DLP 攔截「SSN: 123-45-6789」 | LLM 從上下文推論身分 |
Idea Security：新興威脅
「Idea Security」的概念以及「Idea Leakage」這一術語由 SenTeGuard 創辦人 David Weidman 首創， 旨在描述語意 AI 系統特有的威脅。這些概念連同針對 AI/LLM 系統的 Idea Security 架構，共同構成了現代 AI 安全實踐的基礎。
二進制計算衡量相等性；語意計算衡量鄰近性。
傳統安全機制會問：「這個確切字串是密碼嗎？這個確切模式是信用卡號嗎？」這些都是相等性檢查。要麼符合，要麼不符合。
AI 系統則基於鄰近性運作。它們不檢查你是否輸入了機密，而是理解你是否 描述了該機密。員工可能會用自然語言解釋你的定價策略、產品路線圖或競爭分析，而完全無需輸入機密文件。
這就是 Idea Leakage，而傳統 DLP 對此完全無能為力。新興的威脅不是檔案外洩；而是語意外洩。組織需要能夠理解含義、而非僅僅識別模式的新工具。
欲了解更多資訊，請閱讀我們的 Idea Security 標準部落格文章。
防守者以清單思考，攻擊者以樹狀結構思考
安全團隊維護各種清單：核准的供應商、封鎖的 IP、已知的惡意軟體特徵碼、合規性要求。當威脅不在清單上時，它就能輕易穿透。
攻擊者則以樹狀結構思考。他們探索各種決策路徑：「如果這個被阻擋，就嘗試那個。如果那個失敗，就換別的。」他們在可能性空間中穿梭，尋找通往目標的任何路徑。
這種不對稱性是結構性的。防守者枚舉威脅；攻擊者探索威脅。這就是為什麼基於特徵碼的安全機制總是落後——你只有在見過攻擊之後，才能將其加入清單。
Idea Security 需要樹狀思維：理解攻擊圖譜、預測對手的創造力，並斬斷整個攻擊分支，而非僅僅清除個別葉節點。
共享問題
各大 LLM 提供商都會記錄互動。即使簽署了禁止使用你的數據進行訓練的企業協議，你的提示詞依然存在於他們的基礎架構上。
安全審查機制之所以存在，是因為某些資訊需要分隔管理。而 LLM 由於其本質，抗拒分隔管理。
洩漏給 LLM 就等於洩漏給所有人
這說法雖然帶有刻意誇大的成分，但這個心智模型非常實用。當員工將資訊貼入 LLM 時：
- 它會透過網路進行傳輸
- 它會由外部基礎架構處理
- 它可能會為了濫用檢測而被記錄
- 它可能會被用於模型改進（取決於服務條款）
- 它存在於你的安全邊界之外
營運上的假設應為：發送給外部 LLM 的任何內容均不再屬於機密。這不是偏執，而是 AI 時代切合實際的威脅建模。
SenTeGuard 讓你能清楚看見正在發送的內容，並控制允許通過的資訊。我們無法收回已發送的數據，但我們可以在一開始就阻止它離開。
欲深入了解環境 LLM 及數據暴露風險，請參閱我們關於 環境 AI 風險的部落格文章。
我們提供超越零的實質提升
某些資安廠商將他們的產品定位為保險：「購買我們的工具以防壞事發生。」這造成了目標上的不一致。 保險產品在理賠率低時才能獲利。但資安產品應當以防範了多少威脅來衡量，而非轉移了多少風險。
如果缺乏 AI 資安控管，您對以下層面的掌握度將完全為零：
- 哪些資料正在流經 LLM
- 針對您的 AI 系統發動了哪些攻擊嘗試
- 違反了哪些政策
- 您的實際風險暴露程度究竟如何
任何程度的能見度，都比毫無所知有著無限大的提升。我們賣的不是針對假設性風險的防護。我們提供的是您目前所欠缺的實際能見度與控制力。
價值主張
大多數客戶在部署後 72 小時內，就能識別出首次被攔截的敏感資料外洩。
這不是理論上的價值，而是您昨天還未曾擁有的即時、可驗證防護。
兩個階段
階段 1：打造工具
數十億資金投入基礎模型、運算資源與研究。我們目前正處於此階段。
階段 2：尋找工具的用途
整合至業務流程、開發新應用、創造價值。這即將到來。
無需對這場變革感到恐懼
我們希望提高 AI 能力隨著時間演進與擴展的可理解性與能見度。對 AI 的恐懼往往源於不透明——不知道系統能做什麼、如何運作，或者會帶來什麼風險。
我們的立場是：AI 的採用是不可避免且有益的。問題不在於是否要使用這些工具，而在於如何安全地使用它們。良好的資安防護能夠促進更廣泛的採用，而非施加限制。懂得如何安全部署 AI 的組織，將勝過那些完全避開 AI 或草率採用的競爭對手。
我們目前正處於花費資金打造 AI 工具的階段。下一波浪潮則是為這些工具尋找用途，將其整合到工作流程、業務流程與決策制定中。SenTeGuard 協助組織安全地完成這項轉變。
總結：我們的信念
-
01
去中心化的利益比對單一平台的忠誠更重要。
-
02
語意運算需要語意資安。
-
03
主動防禦（樹狀思維）勝過被動防禦（核對清單）。
-
04
外部 LLM 應當被視為公開介面。
-
05
能見度是基石；控制力源自於能見度。
-
06
安全地採用 AI 勝過草率採用與全面規避。
實踐這些原則
如果這些理念引起了您的共鳴，歡迎與我們探討如何在您的組織中加以落實。