Traduzido do 日本語 • Ver original 
GTIG alerta sobre "Malware Pensando" :P ROMPT FLUX e PROMPTSTEAL
A GTIG descobriu PROMPTFLUX e PROMPTSTEAL como tipos emergentes de malware que exploram LLMs (grandes modelos de linguagem).
Eles contornam as detecções tradicionais de segurança ao fazer com que a IA "gere dinamicamente" ou "se auto-ofusque" em vez de escrever código.
1. PROMPTFLUX: Um conta-gotas que se auto-mutua em Gêmeos
O PROMPTFLUX é um dropper criado com VBScript, mas seu maior recurso é que ele usa a IA generativa "Gemini" do Google para ofuscar e regenerar seu próprio código.
O malware possui um módulo embutido chamado "Thinking Robot" que periodicamente envia consultas para a API Gemini para gerar novo código que contorne produtos antivírus.
- Como funciona: Use uma chave API codificada fixamente para enviar uma requisição POST ao endpoint do Gemini.
- Persistência: Sempre especifique e chame o modelo estável "gemini-1.5-flash-latest" para aumentar a resiliência da ferramenta.
- Propósito: Mais do que apenas ofuscação, ele reescreve e armazena o próprio código após a infecção, continuando constantemente a operar como uma nova variante.
2. PROMPTSTEAL: Um minerador de dados que permite à IA criar instruções
Por outro lado, PROMPTSTEAL é um malware usado pelo grupo de hackers APT28, apoiado pelo governo russo, para atacar a Ucrânia.
O malware não possui comandos específicos de roubo internos. Em vez disso, ele instrui APIs de LLM, como o Hugging Face, a "criar um comando para coletar informações do sistema" e executa comandos gerados por IA.
- Personificação: Enviar consultas maliciosas em segundo plano enquanto finge ser um gerador de imagem para o usuário.
- Exemplo de prompt: "Listar comandos para copiar recursivamente PDFs e txts da pasta de documentos do usuário."
A Realidade da Exploração de IA por Hackers Patrocinados pelo Estado
O relatório do GTIG também detalha como certos atores de ameaça patrocinados pelo Estado estão abusando de IA como a Gemini para seus próprios fins.
China: Exploração de Vulnerabilidades Posando Participante do CTF
Atores de ameaça chineses usam Gemini sob o disfarce de um participante do Capture The Flag (CTF).
Eles pedem à IA que "me diga a vulnerabilidade deste sistema" e usam as informações obtidas para desenvolver exploits, web shells e reconhecimento de infraestrutura em nuvem (como Kubernetes). Organizações como a APT41 também estão usando IA para ofuscar o código do framework C2 OSSTUN.
Coreia do Norte (UNC1069): Engenharia Social para Criptoativos
A organização norte-coreana "UNC1069" está abusando do Gemini para roubar criptomoedas (moeda virtual).
- Pesquise para localizar os dados do seu aplicativo de carteira.
- Gerar comunicações comerciais plausíveis e pedidos de mudança de reunião em espanhol.
- Disfarçar para disfarçar atualizações de software.
Irã (TEMP. Zagros / APT42): Imitação e deepfakes de estudantes
A organização iraniana TEMP. Zagros tenta fazer com que os estudantes escrevam scripts maliciosos se passando por estudantes que afirmam ser "necessários para projetos universitários" para burlar salvaguardas de IA (como filtros éticos).
O APT42 também usa imagens e vídeos deepfake para enganar as partes relevantes e fazer a distribuição do backdoor "BIGMACHO".
Ponto de Ameaça: Proliferação da IA no Subterrâneo
Além desses ataques sofisticados, fóruns subterrâneos também distribuem amplamente ferramentas de IA dedicadas ao cibercrime, como WormGPT e FraudGPT.
Eles oferecem capacidades que podem ser exploradas por atacantes de qualquer nível de habilidade, desde a criação de e-mails de phishing até o desenvolvimento de malware e exploração de vulnerabilidades.
Contramedidas: Contramedidas contra o Abuso de IA
Como atacantes usam IA, os defensores também precisam estar atentos à IA. O relatório recomenda os seguintes guias de resposta:
- Monitorar e bloquear a comunicação da API de IA
- Monitore chamadas de API da sua rede interna para serviços LLM desnecessários (OpenAI, Gemini, Hugging Face, etc.) e bloqueie comunicações não relacionadas a negócios.
- Detecção de padrões de comandos gerados por IA
- Incorporar padrões únicos de execução de comandos gerados por IA e comportamentos de script não naturais em regras de detecção (SIEM/EDR), como PROMPTSTEAL.
- Proteção de tokens para ambientes de desenvolvimento
- Atacantes direcionam chaves API codificadas fixamente, etc. É importante gerenciar estritamente tokens de autenticação e chaves API no ambiente de desenvolvimento para evitar vazamentos.
Conclusão: Gato e rato está caminhando para a era "IA vs. IA"
O relatório do GTIG mostra que o malware evoluiu de "código estático" para "pensar e mudar ameaças dinamicamente".
Assim como o PROMPTFLUX, chegou a era em que o próprio malware consulta IA, "Como não encontro isso em antivírus?" e se transforma.
Nós, defensores, também precisamos ficar atentos aos padrões e comportamentos de comunicação específicos da IA, mantendo os princípios básicos (defesa em profundidade, mínimo privilégio).
É isso para Yoon Jae-ho da Colorkrew Security.
Obrigado por ler até o fim.