日本語에서 번역 • 원문 보기 
GTIG가 'Thinking Malware' 경고 :P ROMPT FLUX와 PROMPTSTEAL
GTIG는 LLM(대형 언어 모델)을 악용하는 신흥 악성코드 유형으로 PROMPTFLUX와 PROMPTSTEAL을 발견했습니다.
이들은 AI가 코드를 작성하는 대신 "동적으로 생성" 또는 "스스로 난독화"하는 방식으로 전통적인 보안 탐지를 우회합니다.
1. 프롬프트플럭스: 쌍둥이자리에서 스스로 융합하는 스포이퍼
PROMPTFLUX는 VBScript로 만든 드로퍼이지만, 가장 큰 특징은 구글의 생성형 AI 'Gemini'를 사용해 자체 코드를 난독화하고 재생성한다는 점입니다.
이 악성코드는 "Thinking Robot"이라는 내장 모듈을 가지고 있어, 주기적으로 Gemini API에 쿼리를 보내 안티바이러스 제품을 우회하는 새로운 코드를 생성합니다.
- 작동 원리: 하드코딩된 API 키를 사용해 Gemini 엔드포인트에 POST 요청을 보냅니다. *** 지속성**: 도구의 복원력을 높이기 위해 항상 안정적인 "gemini-1.5-flash-latest" 모델을 명시하고 호출하세요. *** 목적**: 단순한 난독화 이상의 기능으로, 감염 후 코드를 다시 작성하고 저장하며, 새로운 변이체로서 지속적으로 작동한다.
2. PROMPTSTEAL: AI가 명령을 생성할 수 있는 데이터 마이너
반면, PROMPTSTEAL은 러시아 정부가 지원하는 해커 그룹 APT28이 우크라이나를 공격하기 위해 사용하는 악성코드입니다.
이 악성코드는 특정 도둑 명령어를 내장하지 않습니다. 대신 Hugging Face와 같은 LLM API에 "시스템 정보를 수집하는 명령어를 생성하라"고 지시하고 AI가 생성한 명령을 실행합니다.
- 사칭: 이미지 생성기를 가장하며 백그라운드에서 악성 쿼리를 사용자에게 전송합니다.
- 프롬프트 예시: "사용자의 문서 폴더에서 PDF와 txt를 재귀적으로 복사하는 명령어를 나열하세요."
국가 지원 해커에 의한 AI 악용의 현실
GTIG 보고서는 또한 특정 국가 지원 위협 행위자들이 Gemini와 같은 AI를 자신들의 목적으로 악용하는 과정을 상세히 다루고 있습니다.
중국: CTF 참가자로 가장한 취약점 탐구
중국의 위협 행위자들은 깃발 뺏기(CTF) 참가자라는 명목으로 제미자리를 사용합니다.
그들은 AI에게 "이 시스템의 취약점을 알려달라"고 요청하고, 얻은 정보를 활용해 익스플로잇, 웹 셸, 클라우드 인프라(예: 쿠버네티스)의 정찰을 개발합니다. APT41과 같은 조직들도 AI를 이용해 C2 프레임워크 OSSTUN의 코드를 난독화하고 있습니다.
북한(UNC1069): 암호화폐 자산을 위한 사회공학
북한 관련 단체인 'UNC1069'은 제미자리를 악용해 암호화폐(가상화폐)를 훔치고 있다.
- 지갑 앱의 데이터를 찾기 위해 조사하세요.
- 그럴듯한 비즈니스 커뮤니케이션 및 변경 요청 회의를 스페인어로 생성합니다.
- 소프트웨어 업데이트를 위장하기 위해서.
이란 (임시직 자그로스 / APT42): 학생들의 사칭과 딥페이크
이란 단체 TEMP. 자그로스는 학생들이 "대학 프로젝트에 필요하다"고 주장하는 학생들을 가장해 악성 스크립트를 작성하도록 유도하여 AI 안전장치(예: 윤리적 필터)를 우회하려 한다.
APT42는 또한 딥페이크 이미지와 영상을 사용해 관련 당사자를 속여 백도어 "BIGMACHO"를 배포하게 만듭니다.
위협 포인트: 지하 내 AI 확산
이러한 정교한 공격 외에도, 지하 포럼에서는 WormGPT, FraudGPT와 같은 사이버 범죄 전용 AI 도구도 널리 배포되고 있습니다.
이들은 피싱 이메일 생성부터 악성코드 개발, 취약점 악용까지 모든 수준의 공격자가 악용할 수 있는 기능을 제공합니다.
대응책: AI 남용에 대한 대응책
공격자가 AI를 사용하기 때문에 방어자들도 AI를 인지해야 합니다. 보고서는 다음과 같은 대응 가이드를 권고합니다:
- AI API 통신을 모니터링하고 차단합니다
- 내부 네트워크에서 불필요한 LLM 서비스(OpenAI, Gemini, Hugging Face 등)로 API 호출을 모니터링하고, 비비즈니스 관련 통신을 차단합니다.
- AI 생성 명령의 패턴 탐지
- 고유한 AI 생성 명령 실행 패턴과 비정상적인 스크립트 동작을 PROMPTSTEAL과 같은 탐지 규칙(SIEM/EDR)에 통합합니다.
- 개발 환경을 위한 토큰 보호
- 공격자는 하드코딩된 API 키 등을 표적으로 삼습니다. 유출을 방지하기 위해 개발 환경에서 인증 토큰과 API 키를 엄격히 관리하는 것이 중요합니다.
결론: 쫓고 쫓기는 게임은 "AI 대 AI 시대로 나아가고 있다"
GTIG 보고서는 악성코드가 "정적 코드"에서 "동적으로 사고되고 위협을 변화시키는 시스템"으로 진화했음을 보여줍니다.
PROMPTFLUX처럼, 악성코드가 AI와 "어떻게 안티바이러스 소프트웨어에서 못 찾을 수 있지?"라고 상의하며 스스로 변이하는 시대가 왔다.
우리 방어자들은 기본 원칙(심층 방어, 최소 특권 포함)을 준수하면서 AI특유의 의사소통 패턴과 행동을 주시해야 합니다.
Colorkrew Security의 윤재호 말씀은 여기까지입니다.
끝까지 읽어주셔서 감사합니다.