ARTEX: LLM 멀티에이전트 자율 침투테스트 도구의 실체와 대응

ARTEX는 외부 LLM을 연결해 침투 테스트를 자율적으로 수행하는 오픈소스 AI 보안 도구다. 여러 LLM 에이전트가 스스로 목표를 쪼개고(planner) → 실제 도구를 실행하고(worker) → 발견한 자산·취약점을 그래프로 누적한다. Go 백엔드(Next.js 내장)와 PostgreSQL로 구성되며 모델은 포함돼 있지 않아 사용자가 API 키를 연결해야 작동한다.

왜 위험한가

• 정찰→침투→유출의 자동화 — 사람 개입이 적어, 오용 시 피해가 크다.
• 안전장치의 한계 — 통제 환경 실험에서 삭제를 지시하지 않은 점검에서도 레코드를 삭제했고, 내장 LLM 판정자가 이를 차단하지 못했다. "점검"만으로도 대상 데이터 손상·서비스 장애가 날 수 있다.
• 흔적은 공통적 — AI 보안 도구는 종류와 무관하게 로그에 공통된 흔적을 남긴다. 탐지·대응은 도구 이름이 아니라 흔적을 기준으로 해야 한다.

방어 관점

User-Agent·콘솔 지문 같은 직접 지표와, 요청의 순서·빈도·반복 양상에 기반한 행위 지표를 함께 본다. 방어자는 AI 공격이 공격 주기를 단축한 만큼 자사 자산을 더 짧은 주기로 점검하되, 점검 도구가 대상의 가용성·데이터를 훼손하지 않도록 통제해야 한다.