이번 주, Tanium의 사이버 위협 인텔리전스(CTI) 팀은 원격 언어 모델을 표적으로 삼는 새로운 사이드 채널 공격인 ‘Whisper Leak’을 살펴봅니다. 다음으로, 에서 GitHub Actions에 위협이 되는 “@acitons/artifact”라는 악성 npm 패키지를 조사합니다. 마지막으로, 에서는 새로운 ‘Quantum Route Redirect’ 도구를 사용하여 Microsoft 365 사용자를 표적으로 삼는 정교한 피싱 캠페인을 분석합니다.
‘Whisper Leak’은 원격 언어 모델을 표적으로 삼는다
마이크로소프트는 ‘위스퍼 리크(Whisper Leak)’에 대한 세부 정보를 에서 공개하고 있습니다. 이 취약점은 TLS로 트래픽이 암호화되어 있는 경우에도 네트워크 패킷 크기와 타이밍 패턴을 악용해 사용자의 대화 주제를 파악하고 있습니다.
마이크로소프트의 보고서는 특히 AI 시스템이 민감한 정보를 처리하는 데 점점 더 많이 활용됨에 따라, 언어 모델의 기밀성 확보에 대한 필요성이 커지고 있음을 강조하고 있다. 이러한 이유로, 대화의 보안이 보장되고 모델에 강력한 개인정보 보호 장치가 마련되는 것이 점점 더 중요해지고 있습니다.
[조직의 신뢰성과 명성을 지키는 방법을 알아보세요 — 데이터 변조 방지를 위한 검증된 전략을 살펴보세요]
마이크로소프트의 ‘Whisper Leak’ 실험
마이크로소프트는 먼저 일반적인 트래픽과 특정 대상 주제를 구분할 수 있도록 이진 분류기를 학습시키는 것으로 시작했습니다.
이 실험에서 주제는 자금 세탁의 합법성이었다. 연구진은 언어 모델을 활용해 자금 세탁 주제와 관련된 유사한 질문 100 개를 생성했으며, 이 중 80 개는 훈련용으로, 20 개는 일반화 능력을 테스트하는 데 사용했다. 마이크로소프트는 또한 노이즈 프롬프트용으로 관련성이 없는 질문 11.000 개 이상을 무작위로 추출했습니다.
데이터를 수집한 후, 마이크로소프트는 세 가지 학습 모델을 세 가지 서로 다른 모드에서 분석했습니다. 연구진은 불균형 데이터셋에서 사이버 공격의 성공 여부를 측정하기 위해 정밀도-리콜 곡선 아래 면적(AUPRC) 지표를 사용하여 각 모델의 성능을 평가했다.
대부분의 모델이 98%를 넘는 점수를 기록했다. 마이크로소프트는 특정 주제에 대한 대화에서 생성된 고유한 디지털 지문이, 통제된 테스트 환경에서 자사의 AI 기반 도청 시스템이 이를 감지할 수 있을 만큼 충분히 뚜렷했다고 밝혔다.
위스퍼 유출: 점점 커지는 위협
마이크로소프트는 공격자가 무작위로 선정된 10.000 건의 대화를 모니터링하는 현실적인 감시 시나리오를 시뮬레이션했는데, 그중 단 한 건만이 대상과 관련된 민감한 주제를 다루고 있었다. 이번 테스트에서 공격자는 해당 주제를 다루는 대화를 정확히 식별해 냈습니다.
최근 보고된 많은 위협과 마찬가지로, 마이크로소프트는 이 위협이 시간이 지남에 따라 더욱 심각해질 가능성이 있다고 보고 있습니다. 그들의 평가에 따르면, 이는 위협 행위자들이 더 많은 훈련 데이터를 수집하고 이 정보를 바탕으로 공격 방식을 개선해 나감에 따라 점차 개선될 것으로 예상되는 기본 위험 수준이다.
[데이터 개인정보 보호 전략을 강화하기 위해 ISACA의 최신 보고서에서 제시하는 5가지 놀라운 통찰력을 확인해 보세요]
Tanium 사이버 위협 인텔리전스 팀의 애널리스트 의견
TLS와 같은 강력한 암호화 방식이라도 사이드 채널 신호가 노출된 상태에서는 개인 정보를 완전히 보호할 수 없습니다. 이 공격이 정확한 텍스트나 채팅 내용을 노출시키지는 않는 것으로 보이지만, 민감한 주제를 분류할 수 있어 특히 더 엄격한 개인정보 보호 규정이 적용되는 분야의 조직에 있어 기밀성 문제를 야기할 수 있습니다. 보안 담당자는 단순히 콘텐츠 암호화뿐만 아니라 메타데이터 유출 문제도 반드시 고려해야 한다는 점을 다시 한번 상기시켜 드립니다.
마이크로소프트와 다른 서비스 제공업체들은 대응 조치를 시행했으나, 마이크로소프트는 여전히 사용자들이 신뢰할 수 없는 네트워크에서는 민감한 주제를 피하고, VPN이나 스트리밍이 아닌 방식을 고려할 것을 권장하고 있습니다.
@acitons/artifact는 GitHub Actions 사용자를 대상으로 합니다.
Veracode 의 연구원들이 GitHub Actions 사용자를 노리는 “@acitons/artifact”라는 악성 npm 패키지를 발견했습니다. 이 패키지는 정식 패키지인 “@acitons/artifact”의 이름을 도용한 것으로, 설치 후 실행되는 스크립트를 통해 CI/CD 환경에서 암호화된 데이터를 유출하는 것을 목적으로 합니다.
베라코드(Veracode)는 이 악성 패키지의 목적이 “GitHub 소유 저장소의 빌드 과정에서 이 스크립트를 실행하여, 빌드 환경에서 사용 가능한 토큰을 유출한 뒤, 해당 토큰을 이용해 GitHub 계정으로 위장하여 새로운 악성 아티팩트를 게시하는 것”이라고 보고 있습니다.
조사 과정에서 연구진은 설치 후 악성코드를 실행하는 후크 기능이 포함된 6가지 버전을 발견했으며, 베라코드(Veracode)는 이러한 악성코드가 안티바이러스 제품에 의해 탐지되지 않았다고 지적했습니다. 해당 배우는 악성 버전을 삭제한 것으로 보입니다.
패키지
Veracode의 연구진은 GitHub Actions Toolkit용으로 보이는 악성 패키지 버전 4,0,13 을 분석했는데, 이 패키지의 이름에는 명백한 타이포스쿼트가 포함되어 있는 것으로 나타났습니다.
Veracode는 VirusTotal에서 해당 바이너리를 분석한 결과, 보고 당시 이 바이너리가 악성 코드로 표시되지 않았음을 확인했습니다. 그러나 해당 파일을 수동으로 검토한 결과, 지정된 날짜 이후에는 실행되지 않도록 하는 메커니즘, 난독화된 셸 스크립트, GitHub가 직접 소유한 저장소만을 표적으로 삼는 점 등 악의적인 것으로 보이는 여러 가지 특징이 드러났다.
Tanium 사이버 위협 인텔리전스 팀의 애널리스트 의견
npm과 같이 널리 신뢰받는 생태계가 현재 위협 행위자들에 의해 악용되고 있어, 의존성 관리가 그 어느 때보다 중요해졌습니다.
이 행위자는 특히 GitHub Actions에 주목하며, 소프트웨어 수명 주기의 핵심 시점을 공략했습니다. 이러한 유형의 공격이 발생하면 공격자는 기밀 정보를 탈취할 수 있으며, 빌드에 악성 코드를 주입할 수 있고, 운영 환경으로 침투하여, 단일 의존성 오류를 대규모 침해 사고로 확대시킬 수 있습니다.
이번 사건은 소프트웨어 공급망 위험이 점점 커지고 있음을 여실히 보여주며, 의존성 검토와 런타임 보안 통제를 엄격히 시행할 필요성을 시사한다.
‘Quantum Route Redirect’는 피싱을 단순화합니다
KnowBe4 은 최근 ‘ ’라는 정교한 피싱 캠페인을 포착했는데, 이는 ‘Quantum Route Redirect’를 활용하는 것으로, 이 피싱 키트는 복잡한 공격을 자동화하여 사이버 범죄자들이 보안 도구를 우회하고 전 세계 마이크로소프트 365 사용자를 표적으로 삼을 수 있게 해줍니다.
KnowBe4 에서 설명하듯이, 이 악성코드는 탐지를 회피하고 전송 후 링크를 악용할 수 있는 능력으로 인해 상당한 위험을 초래하므로, 첨단 방어 체계와 사용자의 경각심을 함께 갖추어야 합니다.
KnowBe4 은 90 개국에 걸쳐 이 캠페인의 피해를 입은 사례들을 확인했습니다. 피해자 중 76%가 미국에 거주하고 있었다.
‘Quantum Route Redirect’란 무엇인가요?
KnowBe4 은 Quantum Route Redirect를 “트래픽 재라우팅부터 피해자 추적에 이르기까지 피싱 캠페인 전 과정을 간소화하는 첨단 자동화 플랫폼”이라고 설명합니다. 현재까지 이 플랫폼에서 호스팅되고 있는 도메인을 약 1.000 개 확인했습니다.
이 도구 자체는 간단하며, 사용자가 캠페인을 손쉽게 진행할 수 있도록 미리 구성된 설정을 제공합니다. 이 시스템은 서로 다른 방문자를 구분하여, 보안 도구를 위한 조치와 실제 의도된 피해자를 구분하고, 이에 따라 각각을 적절한 경로로 안내할 수 있습니다. 구분을 위해 브라우저 지문 분석과 VPN 및 프록시 탐지 기능을 사용합니다.
양자 경로 리디렉션 피싱 공격
KnowBe4 은 8월 초, ‘Quantum Route Redirect’를 악용한 피싱 공격을 처음으로 포착했습니다. KnowBe4에 따르면, 각 캠페인은 ‘ ’ 피싱 이메일( )로 시작되며, 이 이메일의 주제와 수법은 다양합니다. 주제가 무엇이든 간에, 모든 경우에서 피해자들은 Quantum Route Redirect가 관리하는 인증 정보 탈취 페이지로 유도됩니다.
다른 피싱 킷과 마찬가지로, Quantum Route Redirect는 사용자에게 캠페인을 관리할 수 있는 설정 패널을 제공하며, 방문자 통계 등 다양한 유용한 기능을 갖추고 있습니다.
Tanium 사이버 위협 인텔리전스 팀의 애널리스트 의견
이는 공격자들의 진입 장벽을 낮추고, Microsoft 365 환경을 표적으로 한 더욱 빈번하고 정교한 공격 캠페인의 길을 열어주는 또 하나의 피싱 키트입니다.
이 키트가 링크를 전송한 후에도 이를 악용할 수 있다는 점은 특히 우려스러운데, 이는 URL 스캔이나 샌드박싱과 같은 기존의 여러 보안 계층을 무력화시켜 실시간 탐지의 중요성과 사용자의 대응 능력의 필요성을 여실히 보여주기 때문이다.
KnowBe4’s 보고서에는 양자 경로 재지정(Quantum Route Redirect)을 방지하기 위해 에서 권장하는 몇 가지 유용한 조치 사항이 포함되어 있습니다.
이 이야기들에 대해 공유하고 싶은 의견이 있으신가요? 또는 Tanium 토론 포럼을 방문하여 대화를 시작해 보세요.
더 자세한 내용을 확인하시려면, 최근 발행된 ‘ ’ 사이버 위협 인텔리전스 요약 기사()를 참고해 주세요.
