Grundprinzipien
Die grundlegenden Überzeugungen, die unseren Ansatz für Idea Security leiten. Dies sind keine Marketing-Slogans, sondern die Rahmenbedingungen und Überzeugungen, die jede Produktentscheidung prägen.
Diese Prinzipien wurden zusammen mit den Konzepten von Idea Security (angewandt auf KI-Systeme), Idea Security und Idea Leakage von David Weidman, dem Gründer von SenTeGuard, entwickelt.
Dezentrale Interessen statt Plattformabhängigkeit
Die KI-Branche konsolidiert sich um eine Handvoll Anbieter von Basismodellen. OpenAI, Anthropic, Google und Meta kontrollieren die Infrastruktur, die zunehmend kritische Geschäftsprozesse antreibt. Diese Konzentration birgt systemische Risiken.
SenTeGuard nimmt einen anderen Standpunkt ein: Wir glauben, dass Organisationen ihr KI-Schicksal selbst bestimmen sollten. Unsere Tools funktionieren über alle Anbieter hinweg. Wir helfen Ihnen beim Aufbau von Sicherheitsprogrammen, die Anbieterwechsel überstehen. Wir binden Sie nicht an unsere Plattform, sondern geben Ihnen portable Richtlinien und exportierbare Daten an die Hand.
Wir lösen nicht die Probleme von OpenAI oder Anthropic. Wir lösen Ihre Probleme, und diese bestehen unabhängig davon, für welches Modell Sie sich entscheiden.
Verwandte Arbeit: Joseki:WrapperHub bündelt versionierte Prompts, Evals und Sicherheitsspezifikationen, damit das Verhalten über Modelle hinweg portabel bleibt – ergänzend zu den Laufzeitschutzmaßnahmen, die SenTeGuard bietet. Lesen Sie den Einführungsbeitrag →
Was das in der Praxis bedeutet
- SenTeGuard funktioniert mit jedem LLM-Anbieter
- Richtlinien sind anbieterunabhängig und portabel
- Wir fördern Multi-Provider-Strategien
- Kein Lock-in: Exportieren Sie Ihre Daten und Konfigurationen jederzeit
- Wir unterstützen selbst gehostete und Open-Source-Modelle
Der Paradigmenwechsel
| Binäres Computing | Semantisches Computing |
|---|---|
| Misst Gleichheit | Misst Nähe |
| Ist dies das Passwort? | Ist dies Geheimnissen ähnlich? |
| Exakter Musterabgleich | Bedeutungsbasierte Inferenz |
| DLP erkennt „SSN: 123-45-6789“ | LLM leitet Identität aus dem Kontext ab |
Idea Security: Die aufkommende Bedrohung
Das Konzept der "Idea Security" und der Begriff "Idea Leakage" wurden von David Weidman, dem Gründer von SenTeGuard, geprägt, um Bedrohungen zu beschreiben, die spezifisch für semantische KI-Systeme sind. Diese Konzepte bilden zusammen mit dem Idea Security Framework für KI-/LLM-Systeme das Fundament moderner KI-Sicherheitspraxis.
Binäres Computing misst Gleichheit; semantisches Computing misst Nähe.
Traditionelle Sicherheit fragt: "Ist diese exakte Zeichenfolge ein Passwort? Ist dieses exakte Muster eine Kreditkartennummer?" Dies sind Gleichheitsprüfungen. Entweder es stimmt überein oder nicht.
KI-Systeme arbeiten auf Basis von Nähe. Sie prüfen nicht, ob Sie das Geheimnis getippt haben, sie verstehen, ob Sie das Geheimnis beschrieben haben. Ein Mitarbeiter könnte Ihre Preisstrategie, Produkt-Roadmap oder Wettbewerbsanalyse in natürlicher Sprache erklären, ohne jemals das vertrauliche Dokument zu tippen.
Das ist Idea Leakage, und für herkömmliche DLP ist es unsichtbar. Die aufkommende Bedrohung ist nicht die Exfiltration von Dateien; es ist die semantische Exfiltration. Unternehmen benötigen neue Tools, die Bedeutung verstehen, nicht nur Muster.
Lesen Sie mehr in unseren Blogbeiträgen zu Idea Security Standards.
Verteidiger denken in Listen, Angreifer denken in Bäumen
Sicherheitsteams führen Listen: genehmigte Anbieter, blockierte IPs, bekannte Malware-Signaturen, Compliance-Anforderungen. Wenn eine Bedrohung nicht auf der Liste steht, kommt sie durch.
Angreifer denken in Bäumen. Sie erkunden Entscheidungspfade: "Wenn dies blockiert ist, versuche das. Wenn das fehlschlägt, versuche etwas anderes." Sie durchqueren Möglichkeitsräume auf der Suche nach einem beliebigen Pfad zu ihrem Ziel.
Die Asymmetrie ist struktureller Natur. Verteidiger zählen Bedrohungen auf; Angreifer erforschen sie. Aus diesem Grund hinkt signaturbasierte Sicherheit immer hinterher – man kann die Liste erst erweitern, nachdem man den Angriff gesehen hat.
Idea Security erfordert Baum-Denken: Angriffsgraphen verstehen, gegnerische Kreativität antizipieren und ganze Angriffsäste schließen statt einzelner Blätter.
Bringen Sie es auf die Liste
Das Ziel proaktiver Sicherheit ist es, unbekannte Bedrohungen in bekannte Bedrohungen umzuwandeln – Elemente aus dem Baum des Angreifers auf die Liste des Verteidigers zu übertragen, bevor sie ausgenutzt werden.
Die Kundenprodukte sind MoyoMap, eine lebendige Karte dessen, was KI weiß, und Moyo Scan, ein einmaliger Forschungsbericht.
Das Freigabe-Problem
Jeder große LLM-Anbieter protokolliert Interaktionen. Selbst bei Unternehmensverträgen, die das Training mit Ihren Daten untersagen, existieren Ihre Prompts auf deren Infrastruktur.
Sicherheitsfreigaben existieren, weil manche Informationen eine Kompartimentierung erfordern. LLMs widersetzen sich von Natur aus der Kompartimentierung.
Ein Datenleck an ein LLM ist ein Datenleck an alle
Dies ist bewusst übertrieben formuliert, aber das Denkmodell ist nützlich. Wenn ein Mitarbeiter Informationen in ein LLM einfügt:
- Werden sie über das Netzwerk übertragen
- Werden sie von externer Infrastruktur verarbeitet
- Werden sie möglicherweise zur Missbrauchserkennung protokolliert
- Könnten sie zur Modellverbesserung verwendet werden (je nach ToS)
- Existieren sie außerhalb Ihres Sicherheitsbereichs
Die operative Annahme sollte lauten: Alles, was an ein externes LLM gesendet wird, ist nicht mehr vertraulich. Das ist keine Paranoia, sondern eine realistische Bedrohungsmodellierung für das KI-Zeitalter.
SenTeGuard gibt Ihnen Einblick in das, was gesendet wird, und die Kontrolle darüber, was durchkommt. Wir können das Senden von Daten nicht rückgängig machen, aber wir können verhindern, dass sie überhaupt erst abfließen.
Erfahren Sie mehr über ambiente LLMs und Datenexposition in unserem Blogbeitrag über Risiken ambienter KI.
Wir bieten eine Verbesserung gegenüber Null
Einige Sicherheitsanbieter positionieren ihre Produkte wie Versicherungen: „Kaufen Sie unser Tool für den Fall, dass etwas Schlimmes passiert.“ Das führt zu Fehlanreizen. Versicherungsprodukte sind profitabel, wenn Schadensfälle gering sind. Sicherheitsprodukte sollten an abgewehrten Bedrohungen gemessen werden, nicht an übertragenen Risiken.
Ohne KI-Sicherheitskontrollen haben Sie keinerlei Einblick in:
- Welche Daten durch LLMs fließen
- Welche Angriffe auf Ihre KI-Systeme unternommen werden
- Welche Richtlinien verletzt werden
- Wie hoch Ihre tatsächliche Exposition wirklich ist
Jede Sichtbarkeit ist eine unendliche Verbesserung gegenüber gar keiner. Wir verkaufen keinen Schutz vor hypothetischen Risiken. Wir verkaufen echte Sichtbarkeit und Kontrolle, die Ihnen derzeit fehlt.
Das Wertversprechen
Die meisten Kunden identifizieren ihr erstes blockiertes Leck sensibler Daten innerhalb von 72 Stunden nach der Bereitstellung.
Das ist kein theoretischer Wert, sondern unmittelbarer, nachweisbarer Schutz, den Sie gestern noch nicht hatten.
Die zwei Phasen
Phase 1: Das Werkzeug bauen
Milliardeninvestitionen in Basismodelle, Rechenleistung und Forschung. An diesem Punkt befinden wir uns jetzt.
Phase 2: Nutzen für das Werkzeug finden
Integration in Geschäftsprozesse, neue Anwendungen, Wertschöpfung. Das steht bevor.
Die Revolution sollte keine Angst machen
Wir möchten die Verständlichkeit und Sichtbarkeit dafür verbessern, wie sich KI-Fähigkeiten im Laufe der Zeit entwickeln und erweitern. Die Angst vor KI rührt oft von Intransparenz her – dem Nichtwissen, was Systeme können, wie sie funktionieren oder welche Risiken sie bergen.
Unsere Position: Die Einführung von KI ist unausweichlich und vorteilhaft. Die Frage ist nicht, ob diese Werkzeuge genutzt werden, sondern wie sie sicher genutzt werden können. Gute Sicherheit ermöglicht eine breitere Einführung, keine Einschränkung. Unternehmen, die den sicheren Einsatz von KI meistern, werden diejenigen überflügeln, die KI entweder meiden oder leichtfertig einsetzen.
Derzeit befinden wir uns in der Phase, Geld in die Entwicklung von KI-Werkzeugen zu investieren. Die nächste Welle besteht darin, Einsatzmöglichkeiten für diese Werkzeuge zu finden: Integration in Arbeitsabläufe, Geschäftsprozesse und Entscheidungsfindung. SenTeGuard hilft Unternehmen, diesen Übergang sicher zu gestalten.
Zusammenfassung: Unsere Überzeugungen
-
01
Dezentrale Interessen wiegen schwerer als Plattformloyalität.
-
02
Semantisches Computing erfordert semantische Sicherheit.
-
03
Proaktive Verteidigung (Baum-Denken) schlägt reaktive Verteidigung (Listen-Abhaken).
-
04
Externe LLMs sollten wie öffentliche Schnittstellen behandelt werden.
-
05
Sichtbarkeit ist das Fundament; Kontrolle entsteht aus Sichtbarkeit.
-
06
Ein sicherer KI-Einsatz schlägt sowohl leichtsinnige Einführung als auch Vermeidung.
Bauen Sie auf diesen Prinzipien auf
Wenn diese Ideen Sie ansprechen, lassen Sie uns darüber sprechen, wie sie in Ihrem Unternehmen umgesetzt werden können.