Idea Security Verification Framework
GitHubで見る →isvf は、LLM対応システムにおける推論境界を定義、テスト、監査するためのオープンフレームワークです。セマンティックな漏洩、クロスドメイン推論、そして従来のセキュリティツールでは測定できない到達可能性（Reachability）のリスクに対処します。
オープンドラフト、ライセンスはCC BY 4.0です。コミュニティによるレビューやコントリビューションを歓迎します。ガイドラインについては CONTRIBUTING.mdをご覧ください。
紹介記事を読む：Idea Security Standards Concept Draft →コアとなる考え方
従来のセキュリティが問うのは：
誰がどのファイルにアクセスできるか？
isvf はさらに問いかけます：
プロンプト、検索されたドキュメント、ツール、メモリ、出力が1つの推論ワークフローに結合されたとき、このシステムはどのような結論を導き出せるのか？
組織が阻止すべきなのは、もはや機密の直接的な開示だけではありません。AIシステムがどのような結論を導き出せるのか、それらのシステムがどのドメインを結合してよいのか、そして検索、メモリ、ツール、プロンプト、合成を通じてどのような機微な意味が到達可能になり得るのかについても管理しなければなりません。
- Semantic Leakage
- 元の秘密テキスト自体は露出していなくても、言い換え、翻訳、要約、抽象化、または推論を通じて保護された意味が開示されること。
- Cross-Domain Inference
- 個々には許可されているものの、組み合わせると機微になる複数ドメインの断片を結合することによって、禁止された結論が生成されること。
- Reachability
- 定義された運用条件下で、AIシステムが確実に出力できる結論の集合。
- Unreachable Statement Classes (USCs)
- ポリシーにより、システムが到達可能にしてはならないとされる結論のカテゴリ。
- Domain Join Matrix
- どの情報ドメインの組み合わせが許可、禁止、または承認必須であるかを示す構造化された記録。
- Evidence Packs
- アイデアの境界が定義、適用、テスト、監視されていることを示す、監査対応可能な成果物。
提案されているメトリクス
isvfは、コミュニティによる改良に向けた検証メトリクスのドラフトを導入しています。これらは暫定的なものであり、定義、テストプロトコル、スコアリング手法を洗練させるコントリビューションを特に歓迎します。
- ドメイン推論リスク DIR
- 定義された境界条件下で、システムがドメイン内の入力のみを使用してドメイン外の結論を導出する頻度。クロスドメインの推論漏洩の確率を測定します。
- 漏洩イベント発生率 LER
- 保護された情報または保護された意味が出力に出現する頻度（重要度で重み付け）。直接的な開示とセマンティックな言い換えイベントの両方を捉えます。
- クロール耐性スコア CRS
- システムが時間経過に伴う反復的またはマルチセッションの抽出試行にどれだけ耐えられるか。反復的な敵対的探索に対するアイデア境界の耐久性を測定します。
既存のフレームワークとの関係
isvfは、OWASP、NIST、MITRE ATLAS、またはその他のAIセキュリティへの取り組みを置き換えることを意図したものではありません。推論境界モデリングによって既存のフレームワークを強化するコントリビューション層です。
-
OWASP
リポジトリで利用可能なLLM Top 10のクロスウォーク
-
NIST AI RMF
isvfの統制をGovern（統治）、Map（マッピング）、Measure（測定）、Manage（管理）機能に対応付け
-
MITRE ATLAS
敵対的機械学習の戦術を推論境界の攻撃パターンで拡張
-
ISO / SOC 2
監査およびコンプライアンス要件に沿ったエビデンスパックのテンプレート
リポジトリの構造
isvf/
idea-security-verification-framework.md
glossary/
glossary.md
controls/
control-catalog.md
metrics/
domain-inference-risk.md
leakage-event-rate.md
crawl-resilience-score.md
crosswalks/
owasp.md · nist-ai-rmf.md · mitre-atlas.md
examples/
domain-inventory-template.md
join-matrix-template.md
unreachable-statement-classes-template.md
evidence-pack-template.mdコントリビューションの方法
有益なコントリビューションには以下が含まれます：
- • 明確化のための編集および新しい用語集の用語
- • 提案された統制およびテストケース
- • セクター別の実装例
- • 規制クロスウォーク（ISO、SOC 2、CMMCなど）
- • メトリクスの改良およびレッドチームシナリオ
- • 脆弱または非現実的な前提に対する批評
プルリクエストを送信する前にIssueを開いてください。詳細なガイドラインについてはCONTRIBUTING.mdをご覧ください。
フレームワークを見る
isvfはGitHub上の初期公開ドラフトです。フレームワークを確認し、Issueを開き、Idea Securityの標準作りに貢献してください。