AI 악용을 떠올리면 초보 해커가 위험한 질문을 몇 번 던지는 장면이 먼저 떠오릅니다. Anthropic이 2026년 9월 10일 공개한 위협 보고서는 상황이 더 운영적으로 바뀌었다고 말합니다. 여러 계정과 모델, 중계 서비스를 조합해 감시와 사이버공격, 생물학 연구를 이어 가는 사례가 실제로 관측됐습니다.
새 능력보다 반복 업무의 자동화
보고서의 많은 사례에서 AI가 완전히 새로운 공격 수단을 발명한 것은 아닙니다. 이미 존재하는 감시와 침해 작전에서 자료 정리, 표적 선별, 코드 작성과 문서화를 더 빠르게 처리했습니다. Axios는 일부 정부 연계 조직이 Claude를 일상적인 감시 관료제에 넣었다고 전했습니다.
이 변화는 중요합니다. 최고 수준 모델이 아니어도 반복 업무 비용을 낮추면 더 많은 조직이 더 넓은 대상을 추적할 수 있습니다. 위험을 성능 최고점만으로 판단하면 실제 확산 경로를 놓칠 수 있습니다.
생물학에서는 목적을 판별하기 어렵다
Anthropic은 생물학적 위해로 이어질 가능성이 있는 다섯 사례를 중단했다고 밝혔습니다. 그러나 같은 실험 지식이 백신과 치료제 연구에도 쓰일 수 있어 사용자의 의도를 대화 내용만으로 판별하기 어렵다고 설명합니다. 보고서는 곧바로 생물무기가 만들어졌다고 주장하지 않습니다.
따라서 단순 키워드 차단만으로는 충분하지 않습니다. 기관 신원, 연구 자격, 계정 지역, 사용 패턴과 최소한의 관측 가능성을 함께 봐야 합니다. 정당한 연구자의 접근을 지나치게 막는 문제도 함께 풀어야 합니다.
우회는 한 서비스 안에서 끝나지 않는다
보고서에 따르면 일부 행위자는 지역 제한을 피하려고 중계 서비스를 사용하고, 한 모델이 거부하면 다른 모델로 넘어가며, 탐지기를 피하도록 질문을 나눴습니다. 여러 서비스 사이의 빈틈을 이용하는 방식입니다.
Anthropic은 중국계 AI 연구소들의 무단 증류 캠페인도 공개했습니다. 제3자 라우터를 거친 사용자 대화에 이름, 이메일, 회사 정보와 인증정보가 섞여 있었다고 주장합니다. 이는 모델 지식재산 문제와 별도로 사용자가 맡긴 데이터의 이동 경로를 묻게 합니다.
위협 보고서를 읽는 법
이 보고서는 공급사가 자기 시스템에서 관측한 사례를 선별해 공개한 자료입니다. 전체 악용 건수나 산업 전체의 발생률을 알려 주지는 않으며, 개별 행위자의 의도도 확인되지 않은 경우가 있습니다. AP와 Axios의 보도도 이런 한계를 짚으면서 공개 사례의 실제성을 확인합니다.
기업은 ‘안전한 모델’이라는 한 문장보다 계정 검증, 고위험 도구 권한, 로그 보존, 이상 패턴 탐지와 사업자 간 신고 절차를 봐야 합니다. AI가 운영에 들어간 만큼 방어도 질문 필터 하나가 아니라 운영 체계가 되어야 합니다.