First Principles
Idea Security에 대한 우리의 접근 방식을 이끄는 근본적인 신념입니다. 이는 단순한 마케팅 문구가 아니며, 모든 제품 관련 결정을 형성하는 제약이자 확신입니다.
이러한 원칙들은 AI 시스템에 적용되는 Idea Security의 개념, Idea Security, 그리고 Idea Leakage와 함께 SenTeGuard의 설립자인 David Weidman에 의해 개발되었습니다.
플랫폼 종속성을 넘어선 탈중앙화된 가치 추구
AI 산업은 소수의 기반 모델 제공업체를 중심으로 통합되고 있습니다. OpenAI, Anthropic, Google, Meta가 점차 핵심 비즈니스 프로세스를 구동하는 인프라를 장악하고 있습니다. 이러한 집중화는 시스템적 리스크를 초래합니다.
SenTeGuard는 다른 입장을 취합니다. 우리는 조직이 자체적인 AI의 미래를 직접 제어해야 한다고 믿습니다. 당사의 도구는 다양한 제공업체 전반에서 작동합니다. 벤더가 변경되어도 유지되는 보안 프로그램을 구축할 수 있도록 지원합니다. 특정 플랫폼에 귀사를 종속시키지 않으며, 이식 가능한 정책과 내보내기 가능한 데이터를 제공합니다.
우리는 OpenAI의 문제나 Anthropic의 문제를 해결하는 것이 아닙니다. 어떤 모델을 선택하든 지속되는 귀사의 문제를 해결합니다.
관련 작업: Joseki:WrapperHub는 버전 관리되는 프롬프트, 평가, 안전 사양을 패키징하여 SenTeGuard가 제공하는 런타임 보호와 함께 다양한 모델 전반에서 동작의 이식성을 유지합니다. 소개 글 읽기 →
실제 적용에서의 의미
- SenTeGuard는 모든 LLM 제공업체와 호환됩니다
- 정책은 벤더에 종속되지 않으며 이식 가능합니다
- 다중 제공업체(Multi-provider) 전략을 권장합니다
- 종속 없음: 언제든지 데이터와 설정을 내보낼 수 있습니다
- 자체 호스팅 및 오픈 소스 모델을 지원합니다
패러다임의 전환
| 바이너리 컴퓨팅 | 시맨틱 컴퓨팅 |
|---|---|
| 동일성을 측정 | 근접성을 측정 |
| 이것이 비밀번호인가? | 이것이 기밀 정보와 유사한가? |
| 정확한 패턴 매칭 | 의미 기반 추론 |
| DLP가 "SSN: 123-45-6789"를 탐지 | LLM이 문맥을 통해 신원을 추론 |
Idea Security: 떠오르는 위협
"Idea Security"라는 개념과 "Idea Leakage"라는 용어는 SenTeGuard의 설립자인 David Weidman이 시맨틱 AI 시스템 고유의 위협을 설명하기 위해 처음 고안했습니다. 이러한 개념들은 AI/LLM 시스템을 위한 Idea Security 프레임워크와 함께 현대 AI 보안 실무의 토대를 형성합니다.
이진 컴퓨팅은 일치 여부를 측정하고, 시맨틱 컴퓨팅은 근접도를 측정합니다.
기존 보안은 다음과 같이 질문합니다: "이 정확한 문자열이 비밀번호인가? 이 정확한 패턴이 신용카드 번호인가?" 이는 일치 여부 확인입니다. 일치하거나, 일치하지 않거나 둘 중 하나입니다.
AI 시스템은 근접도를 기반으로 작동합니다. 사용자가 비밀을 직접 입력했는지를 확인하는 것이 아니라, 사용자가 비밀을 설명했는지를 이해합니다. 직원은 기밀 문서를 직접 입력하지 않고도 자연어를 통해 가격 책정 전략, 제품 로드맵 또는 경쟁 분석 내용을 설명할 수 있습니다.
이것이 바로 Idea Leakage이며, 기존의 DLP로는 감지할 수 없습니다. 새롭게 떠오르는 위협은 파일 유출이 아니라 시맨틱 유출입니다. 조직에는 단순한 패턴이 아닌 의미를 이해하는 새로운 도구가 필요합니다.
자세한 내용은 당사의 Idea Security 표준 블로그 게시물에서 확인하세요.
방어자는 목록으로 생각하고, 공격자는 트리로 생각합니다
보안팀은 승인된 공급업체, 차단된 IP, 알려진 악성코드 시그니처, 규정 준수 요구사항 등 목록을 관리합니다. 위협이 해당 목록에 없으면 그대로 통과됩니다.
공격자는 트리 형태로 생각합니다. 공격자는 의사 결정 경로를 탐색합니다: "이것이 차단되면 저것을 시도한다. 저것이 실패하면 다른 것을 시도한다." 그들은 목표에 도달할 수 있는 모든 경로를 찾아 가능성의 공간을 횡단합니다.
이 비대칭성은 구조적입니다. 방어자는 위협을 열거하지만, 공격자는 위협을 탐색합니다. 시그니처 기반 보안이 항상 뒤처질 수밖에 없는 이유는 공격을 확인한 후에야 비로소 목록에 추가할 수 있기 때문입니다.
Idea Security는 트리 형태의 사고를 필요로 합니다: 공격 그래프를 이해하고, 공격자의 창의성을 예측하며, 개별 잎이 아닌 공격의 전체 가지를 차단하는 것입니다.
공유의 문제
모든 주요 LLM 제공업체는 상호작용을 기록합니다. 고객의 데이터에 대한 학습을 금지하는 엔터프라이즈 계약을 맺더라도, 프롬프트는 해당 업체의 인프라에 존재하게 됩니다.
보안 인가가 존재하는 이유는 일부 정보의 구획화가 필요하기 때문입니다. LLM은 그 본질상 구획화에 저항합니다.
LLM으로의 유출은 모두를 향한 유출입니다
이는 의도적으로 과장된 표현이지만, 멘탈 모델로서는 매우 유용합니다. 직원이 LLM에 정보를 붙여넣을 때:
- 네트워크를 통해 전송됩니다
- 외부 인프라에 의해 처리됩니다
- 남용 감지를 위해 기록될 수 있습니다
- 모델 개선에 사용될 수 있습니다(서비스 약관에 따름)
- 귀사의 보안 경계 외부에 존재하게 됩니다
기본적인 운영 전제는 외부 LLM으로 전송된 모든 것은 더 이상 기밀이 아니라는 점이어야 합니다. 이는 편집증이 아니라, AI 시대를 위한 현실적인 위협 모델링입니다.
SenTeGuard는 전송되는 내용에 대한 가시성을 제공하고 통과할 수 있는 항목을 제어할 수 있도록 합니다. 이미 전송된 데이터를 되돌릴 수는 없지만, 애초에 외부로 나가는 것을 방지할 수는 있습니다.
상시 작동하는 AI(ambient LLM)와 데이터 노출에 대한 자세한 내용은 당사의 앰비언트 AI 위험에 관한 블로그 게시물에서 확인하세요.
저희는 제로(Zero) 상태에서의 개선을 제안합니다
일부 보안 벤더는 자사 제품을 보험처럼 포지셔닝합니다. "만일의 사태에 대비해 저희 도구를 구매하세요." 이는 상호 불일치를 낳습니다. 보험 상품은 청구 건수가 적을 때 수익성이 높습니다. 하지만 보안 제품은 전가된 위험이 아니라 방지된 위협을 기준으로 평가되어야 합니다.
AI 보안 제어가 없다면, 귀하는 다음에 대해 전혀 가시성을 확보할 수 없습니다:
- LLM을 통해 어떤 데이터가 흐르는지
- 귀하의 AI 시스템을 대상으로 어떤 공격이 시도되는지
- 어떤 정책이 위반되는지
- 귀하의 실제 노출 수준이 어느 정도인지
어떠한 수준의 가시성이든 전혀 없는 것보다는 무한히 낫습니다. 저희는 가상의 위험에 대한 보호책을 판매하는 것이 아닙니다. 현재 귀하에게 결여되어 있는 실제적인 가시성과 제어권을 제공합니다.
가치 제안
대부분의 고객은 배포 후 72시간 이내에 최초로 차단된 민감한 데이터 유출을 확인합니다.
이는 이론적인 가치가 아니라, 어제까지는 없었던 즉각적이고 실증 가능한 보호입니다.
두 가지 단계
1단계: 도구 구축
파운데이션 모델, 컴퓨팅, 연구에 수십억 달러가 투자되었습니다. 우리는 지금 이 단계에 있습니다.
2단계: 도구의 활용처 탐색
비즈니스 프로세스로의 통합, 새로운 애플리케이션, 가치 창출. 이것이 다가오고 있습니다.
혁명을 두려워할 필요는 없습니다
저희는 AI 기능이 시간이 지남에 따라 어떻게 진화하고 확장되는지에 대한 이해도와 가시성을 높이고자 합니다. AI에 대한 두려움은 종종 불투명성, 즉 시스템이 무엇을 할 수 있는지, 어떻게 작동하는지, 어떤 위험을 초래하는지 모른다는 점에서 비롯됩니다.
저희의 입장은 명확합니다. AI 도입은 불가피하며 유익합니다. 질문은 이 도구들을 사용할 것인가가 아니라, 어떻게 안전하게 사용할 것인가입니다. 올바른 보안은 제한이 아닌 더 폭넓은 도입을 가능하게 합니다. 안전한 AI 배포 방식을 찾아내는 조직이, AI를 기피하거나 무분별하게 도입하는 조직을 앞서게 될 것입니다.
현재 우리는 AI 도구를 구축하기 위해 비용을 지출하는 단계에 있습니다. 다음 물결은 워크플로, 비즈니스 프로세스, 의사 결정에 통합하여 해당 도구의 활용처를 찾는 것입니다. SenTeGuard는 조직이 이러한 전환을 안전하게 수행할 수 있도록 지원합니다.
요약: 우리의 신념
-
01
플랫폼에 대한 충성도보다 분산된 이해관계가 더 중요합니다.
-
02
시맨틱 컴퓨팅에는 시맨틱 보안이 필요합니다.
-
03
선제적 방어(트리 사고)가 사후 대처적 방어(목록 체크)보다 우수합니다.
-
04
외부 LLM은 공개 인터페이스로 취급해야 합니다.
-
05
가시성은 기초이며, 통제는 가시성에서 비롯됩니다.
-
06
안전한 AI 도입은 무분별한 도입과 회피 둘 다를 압도합니다.
이러한 원칙을 바탕으로 구축하십시오
이러한 아이디어에 공감하신다면, 귀하의 조직에 이를 어떻게 적용할 수 있을지 이야기해 보십시오.