Idea Security Verification Framework
在 GitHub 上查看 →isvf 是一个用于定义、测试和审计支持大语言模型（LLM）系统中推理边界的开源框架：旨在解决传统安全工具无法衡量的语义泄漏（Semantic Leakage）、跨领域推理（Cross-Domain Inference）以及可达性风险。
开源草案，采用 CC BY 4.0 许可。欢迎社区审查和贡献。有关指南请参阅 CONTRIBUTING.md。
阅读我们的介绍文章：Idea Security 标准概念草案 →核心理念
传统安全会问：
谁可以访问哪个文件？
isvf 则提出了一个额外的问题：
当提示词、检索到的文档、工具、记忆和输出组合成一个推理工作流时，该系统能够得出什么结论？
组织不仅要防止机密的直接泄露。他们还必须管控 AI 系统能够得出什么结论、这些系统可以组合哪些领域，以及哪些敏感含义可能通过检索、记忆、工具、提示词和综合分析变得可达。
- 语义泄漏 (Semantic Leakage)
- 通过改写、翻译、总结、抽象或推理，导致受保护含义被披露，即使原始机密文本并未直接暴露。
- 跨领域推理 (Cross-Domain Inference)
- 通过组合来自多个领域的片段来得出被禁止的结论，这些片段单独来看是允许的，但结合起来却具有敏感性。
- 可达性 (Reachability)
- AI 系统在定义的运行条件下能够可靠生成的结论集合。
- 不可达陈述类别 (USCs)
- 政策要求系统不得使其变为可达的结论类别。
- 领域连接矩阵 (Domain Join Matrix)
- 记录哪些信息领域组合是被允许、被禁止或需要审批通过的结构化记录。
- 证据包 (Evidence Packs)
- 可用于审计的制品，证明 Idea 边界已得到定义、执行、测试和监控。
拟议指标
isvf 引入了供社区完善的验证指标草案。这些指标是暂定的：特别欢迎有助于完善定义、测试协议和评分方法的贡献。
- 领域推断风险 DIR
- 在定义的边界条件下，系统仅使用域内输入推导出域外结论的频率。用于衡量跨领域推断泄露的概率。
- 泄露事件率 LER
- 受保护的信息或受保护的含义在输出中出现的频率，按重要性加权。涵盖直接披露和语义转述事件。
- 抗抓取弹性评分 CRS
- 系统在一段时间内抵御重复或跨会话提取尝试的能力。用于衡量思想边界在迭代对抗性探测下的持久性。
与现有框架的关系
isvf 并非旨在取代 OWASP、NIST、MITRE ATLAS 或其他 AI 安全成果。它是一个贡献层，通过推断边界建模来增强现有框架。
-
OWASP
仓库中提供 LLM Top 10 对照表
-
NIST AI RMF
将 isvf 控制措施映射到 Govern、Map、Measure 和 Manage 功能
-
MITRE ATLAS
通过推断边界攻击模式扩展对抗性机器学习战术
-
ISO / SOC 2
证据包模板符合审计和合规要求
仓库结构
isvf/
idea-security-verification-framework.md
glossary/
glossary.md
controls/
control-catalog.md
metrics/
domain-inference-risk.md
leakage-event-rate.md
crawl-resilience-score.md
crosswalks/
owasp.md · nist-ai-rmf.md · mitre-atlas.md
examples/
domain-inventory-template.md
join-matrix-template.md
unreachable-statement-classes-template.md
evidence-pack-template.md如何贡献
有价值的贡献包括：
- • 清晰度修改与新术语表词条
- • 拟议的控制措施与测试用例
- • 特定行业的实施范例
- • 监管标准对照（ISO、SOC 2、CMMC 等）
- • 指标完善与红队场景
- • 对薄弱或不切实际假设的评审意见
在提交 Pull Request 之前，请先开一个 issue。完整指南请参见 CONTRIBUTING.md。
来自 SenTeGuard 的相关工作
查看框架
isvf 是 GitHub 上的早期公开草案。查看框架、提出 issue，共同为思想安全标准的建设贡献力量。