사이버 공격은 이미 자동화되고 있는데 방어팀은 수많은 경고를 사람이 하나씩 확인합니다. 이 속도 차이를 줄이겠다며 크라우드스트라이크와 엔비디아가 2026년 9월 1일 에이전트형 보안 시스템 ‘세이프마인드’를 공개했습니다. 핵심은 질문에 답하는 보안 챗봇이 아니라, 여러 방어 작업을 이어서 수행하는 AI 요원입니다.
세이프마인드는 엔비디아의 네모트론 공개 모델을 바탕으로 크라우드스트라이크의 위협 데이터와 보안 경험을 추가 학습하고, 팔콘 플랫폼 안에서 작동하도록 만든 시스템입니다. 공격 역할을 맡은 AI와 방어 역할을 맡은 AI가 반복해서 맞붙으며 탐지 규칙과 대응 방식을 개선하는 구조를 내세웁니다.
모델보다 중요한 실행 장치
대규모 언어 모델은 보안 로그를 읽고 공격 가능성을 설명할 수 있습니다. 하지만 실제 방어에는 어느 서버를 조사할지 정하고, 여러 도구를 호출하고, 결과를 비교해 다음 행동을 선택하는 과정이 필요합니다. 크라우드스트라이크가 강조한 ‘하네스’는 이 과정을 묶는 실행 장치입니다.
엔비디아의 표현을 빌리면 모델이 두뇌라면 하네스는 몸입니다. 같은 모델을 써도 어떤 도구와 권한을 주고, 실패했을 때 어떻게 멈추게 하느냐에 따라 전혀 다른 시스템이 됩니다. 보안 제품의 경쟁력이 범용 모델 점수보다 위협 데이터, 도구 연결, 실행 통제로 이동하는 이유입니다.
공격과 방어의 반복 학습
세이프마인드는 공격 시나리오를 만드는 쪽과 이를 막는 쪽을 반복적으로 경쟁시키는 ‘공진화’ 방식을 설명합니다. 새로운 공격 방법이 나오면 방어 모델이 대응하고, 그 방어를 우회하는 시도를 다시 만들어 약점을 찾는 식입니다. 사람이 모든 조합을 직접 작성하기 어려운 환경에서는 유용할 수 있습니다.
다만 반복 대결이 현실의 공격을 그대로 재현한다는 보장은 없습니다. 학습에 없는 네트워크 구조나 정상 사용자의 복잡한 행동을 공격으로 오해할 수 있고, 공격 모델이 만든 시나리오 자체가 편향돼 있을 수도 있습니다. 내부 평가에서 높은 정확도와 큰 비용 절감을 얻었다는 회사 발표는 출발점이지 독립 검증의 결론이 아닙니다.
자동 대응이 만드는 새로운 사고 가능성
보안 AI가 빠르게 움직이려면 서버와 계정, 네트워크에 강한 권한이 필요합니다. 이 권한이 탈취되거나 모델이 잘못 판단하면 정상 서비스를 차단하고 데이터를 훼손할 수 있습니다. 공격자를 막기 위해 만든 요원이 또 하나의 고권한 계정이 되는 셈입니다.
그래서 자동화 수준을 단계별로 나눠야 합니다. 로그 분석과 권고는 자동으로 하되, 계정 정지나 서버 격리는 사람이 승인하게 할 수 있습니다. 반복성이 높고 되돌릴 수 있는 작업부터 맡기고, 영향 범위가 큰 행동은 별도 승인과 복구 절차를 붙이는 방식입니다. 무엇을 자동화했는지보다 무엇을 자동화하지 않았는지가 안전 설계의 핵심이 됩니다.
보안 시장에서 커지는 데이터의 가치
범용 AI 모델을 누구나 구매할 수 있게 되면 보안 회사의 차별점은 실제 공격 데이터와 고객 환경에서 쌓인 피드백으로 이동합니다. 크라우드스트라이크가 자사 위협 데이터로 네모트론을 후처리한 이유입니다. 엔비디아는 모델과 계산 인프라를 공급하고, 보안 회사는 도메인 데이터와 실행 체계를 더합니다.
이 조합이 실제 비용을 낮추는지는 탐지 정확도만으로 판단할 수 없습니다. 잘못된 경고가 얼마나 줄었는지, 사고 대응 시간이 얼마나 짧아졌는지, 자동 조치 때문에 새로 생긴 장애는 없는지를 봐야 합니다. 세이프마인드가 보여주는 변화는 분명하지만, 보안팀을 대체한다기보다 보안팀이 감독해야 할 고속 실행자를 하나 더 들이는 변화에 가깝습니다.