배경: 생성형 AI에 의한 공격의 정교화

전통적인 피싱 공격은 주로 특정 집단을 대상으로 한 대량 전송 방법에 집중되어 왔습니다. 몸과 제목이 부자연스러워 수신자는 쉽게 경고할 수 있었고, 보안 소프트웨어가 구조를 쉽게 감지할 수 있었습니다. 하지만 생성형 AI의 등장으로 공격자들은 다음과 같은 이점을 활용할 수 있습니다:

• 자연스러운 문장 생성: 인간이 작성한 이메일과 구분하기 어려운 자연스러운 문법과 어조
• 향상된 표적 피싱: 내부 정보나 직원 이름을 모방한 맞춤형 이메일 생성
• 다양화 공격 방법: 첨부파일, 링크 안내, 채팅 및 메시징 앱을 포함한 모든 채널에서 수행할 수 있습니다.

이로 인해 이메일 열려 링크 클릭률이 크게 높아져 광범위한 피해를 초래할 수 있습니다. 특히 민감한 자격 증명 유출은 2차 손상과 재정적 손실 위험을 높입니다.

 

공격 기술과 위험

생성형 AI를 이용한 주요 피싱 공격 기법은 다음과 같습니다:

• AI 생성 이메일
  고정밀 텍스트 생성을 통해 발신자의 이름과 텍스트를 교묘하게 위장합니다. 사용자의 주의를 돌려 첨부파일을 열거나 링크를 클릭하도록 유도합니다.
• 스피어 피싱
  특정 직원이나 부서를 겨냥해 개인 정보와 업무 관련 정보를 이용해 매우 신뢰할 만한 이메일을 보내는 행위. 행정 권위와 재정 정보를 겨냥한 사례도 증가하고 있습니다.
• 정보 유출 위험
  이메일 링크와 첨부파일을 통해 자격 증명과 민감한 데이터를 훔치면 비즈니스에 영향을 미치고, 신뢰도를 훼손하며, 법적 위험을 초래할 수 있습니다.

이러한 공격은 전통적인 규칙 기반 이메일 보안이나 서명 이메일만으로는 막기 어렵습니다. 특히 생성형 AI 기반 자연 텍스트는 전통적인 탐지 기법을 우회하기 쉽습니다.

 

조치 및 실행 절차

생성형 AI 피싱에 대응하기 위해서는 인간과 기술적 대응책을 병행하는 것이 중요합니다.

1. 이메일 흐름 시각화
   수신 및 통신 경로를 이해하고 내부 메일 서버와 게이트웨이에서 비정상적인 통신을 조기에 감지합니다. 초기 단계에서 공격을 차단할 수 있습니다.

2. 필터링 및 탐지 설정

   • SPF/DKIM/DMARC와 같은 향상된 발신자 인증
   • 생성형 AI 이메일과 의심스러운 텍스트 패턴을 감지하는 AI 기반 감지 도입

3. 직원 교육
   우리는 정기적으로 의사 공격 훈련과 보안 교육을 실시합니다. 공격 이메일의 특성과 주의사항을 배포하여 피해가 발생하기 전에 예방합니다.

4. 자동화된 규칙 구현
   의심스러운 이메일 격리와 경고를 자동화하여 사용자가 실수로 이메일을 열 위험을 줄입니다.

5. 정기 평가 및 개선
   공격 방법은 매일 진화하기 때문에, 최신 위협을 파악하기 위해 이메일 필터링 설정과 직원 교육을 정기적으로 검토합니다.

    

무엇이어야 하는지

이상적으로는 생성형 AI 피싱 공격에 대한 피해를 미리 방지하기 위해 인간과 기술적 조치가 결합된 조치가 수립됩니다.
직원들은 공격 이메일을 식별할 수 있고, 시스템은 의심스러운 이메일을 자동으로 격리하고 경고할 수 있습니다. 이 이중 방어는 공격 성공률을 최소화합니다.

 

결론

생성형 AI를 이용한 피싱 공격은 이전보다 더 정교하고 정확해지고 있습니다.

• 메일 흐름 시각화

• AI 기반 탐지

• 직원 교육

• 자동 격리 및 경보

• 정기 평가 및 개선

이러한 방어 심층 구축과 결합하는 것은 조직의 위험을 최소화하는 핵심입니다. 제한된 자원을 효율적으로 활용하여 공격이 발생하기 전에 예방해야 합니다.