이번 주 사이버 위협 인텔리전스 종합 소식에서는, 새로운 ‘ ’ 머신러닝(ML) (새 탭에서 열림) 모델에 대한 최신 소식과, 이러한 모델이 사이버 보안 노력에 도움이 되는지 아니면 해가 되는지에 대해 정보 보안(InfoSec) 커뮤니티 내 의견이 엇갈리는 이유를 다룹니다. 다음으로, CTI 팀은 ‘Black Proxies’라는 새로운 프록시 플랫폼의 등장을 분석합니다. 이 플랫폼은 현재 위협 행위자들에게 자신의 발신 IP 주소를 숨기거나 난독화하는 데 도움이 되는 솔루션으로 홍보되고 있습니다. 마지막으로, 새로 설립된 사이버 안전 검토 위원회(CSRB)가 올해 가장 활발하게 활동하며 주목을 받은 위협 행위자 중 하나인 악명 높은 Lapsus$ 그룹이 사용한 전술, 기법 및 절차(TTP)를 검토하는 데 위원회 역사상 두 번째 검토를 할 계획임을 개괄적으로 살펴보며 글을 마무리하겠습니다. 이는 조직들이 유사한 악의적인 활동으로부터 스스로를 보호할 수 있도록 돕기 위함입니다.
1. 기계 학습 모델: 위험한 새로운 공격 경로인가, 아니면 핵심 사이버 보안 기술인가?
보안 연구진들은 오늘날 대부분의 인공지능(AI) 솔루션을 뒷받침하는 의사결정 시스템인 강력한 신형 머신러닝(ML) 모델의 등장에 대해 의견이 엇갈리고 있다.
일부 보안 연구자들은 머신러닝(ML)을 사이버 보안의 구세주로 칭송하는 반면, 다른 연구자들은 머신러닝이 설득력 있는 피싱 미끼를 생성하거나, 악성코드 배포를 돕거나, 위협 행위자들이 기업 네트워크 내에서 횡방향으로 이동하는 것을 용이하게 할 수 있다는 점에 우려를 표하고 있다.
모든 시선이 ChatGPT에 쏠려 있다
‘ ’ 딥러닝 운동의 핵심 요소로 여겨지는 (새 탭에서 열림), 머신러닝(ML) 모델은 대개 공개적으로 이용 가능하며, 맥킨지 글로벌 설문조사( )의 최신 보고서에 따르면 2021년 동안 놀라울 정도로 많은 기업들이 머신러닝 기반 AI의 활용을 확대해 왔습니다. (새 탭에서 열림)
일론 머스크가 설립한 샌프란시스코 소재 AI 기업인 오픈AI는 많은 이들에게 이 분야의 현재 선두주자로 평가받고 있다. 이 회사는 올해 출시된 획기적인 이미지 생성기인 DALL-E 2 (새 탭에서 열림)라는 혁신적인 AI 도구를 개발했습니다. 하지만 현재 화제를 모으고 있는 OpenAI의 도구는 ChatGPT로, OpenAI의 GPT-3,5 언어 기술을 기반으로 한 AI 챗봇 프로토타입입니다. 이 도구는 “OpenAI가 개발한 대규모 인공지능 모델로, (새 탭에서 열림) 다양한 출처의 방대한 양의 텍스트 데이터를 바탕으로 훈련된” 포브스(Forbes)가 해당 주제에 대해 게시한 블로그 게시물 (새 탭에서 열림) 에서 설명한 바와 같습니다.
ChatGPT에 관한 몇 가지 다른 주요 사실:
- ChatGPT는 인간과의 상호작용을 모방하도록 프로그래밍된 AI 기반 챗봇 소프트웨어입니다.
- ChatGPT는 아직 연구 검토 단계에 있으며, 2022년 11월 30일, , OpenAI 웹사이트 (새 탭에서 열림),, 을 통해 일반에 공개되었습니다. 사용자는 가입 후 무료로 체험해 볼 수 있습니다.
- 이 챗봇은 대화 형식을 채택하고 있어, 사용자가 매우 광범위한 단순하거나 복잡한 지시를 내릴 수 있으며, ChatGPT는 이러한 지시를 수행하고 상세한 답변을 제공하도록 훈련되어 있습니다. OpenAI는 이 봇이 후속 질문에도 답할 수 있을 뿐만 아니라, 실수를 했을 때 이를 인식하고 인정할 수도 있다고 주장한다. 다른 머신러닝 기반 AI 솔루션이나 그 밖의 어떤 소프트웨어와 마찬가지로, ChatGPT에도 한계가 있습니다. 이 챗봇은 때때로 잘못된 답변을 내놓거나, 같은 표현을 반복하기도 하며, 질문의 표현을 약간 수정하기 전까지는 반복적으로 제기되는 질문에 답하는 데 어려움을 겪기도 합니다.
ChatGPT는 단순히 평균 이상의 컴퓨터 기반 대화 상대 그 이상이라는 점을 명심하는 것이 중요합니다. 또한 코드를 작성하거나 코드에서 버그를 찾아내는 등의 작업도 할 수 있습니다. ChatGPT는 또한 특정 주제를 둘러싼 맥락을 기억하므로, 사용자가 이전에 언급했던 내용을 다시 언급하더라도 ChatGPT는 그 대화 흐름을 자연스럽게 이어갈 수 있습니다.
바로 이러한 요인들 — 그리고 그 밖의 몇 가지 요인들 — 이 정보보안 전문가들을 우려하게 만들고 있다.
서로 다른 의견에 대해 말하자면
ChatGPT는 이 챗봇의 기능을 직접 경험해 본 사람들의 의견을 분열시키는 데 있어, 다른 어떤 머신러닝 기반 AI 도구보다도 더 큰 역할을 했을 가능성이 상당히 높습니다.
의 케빈 로즈(뉴욕타임스 (새 탭에서 열림))는 다음과 같이 말했습니다. “ChatGPT는 간단히 말해, 지금까지 일반 대중에게 공개된 인공지능 챗봇 중 최고입니다.”
케빈만이 그런 생각을 하는 것은 아니다. 지난 몇 주 동안 OpenAI의 제품은 폭발적인 인기를 끌었습니다. 예를 들어, 한 인기 기사 (새 탭에서 열림) 에서는 ChatGPT의 기반 기술인 GPT-3에 대해 “일부 영역에서는 인상적이지만, 다른 영역에서는 여전히 인간 수준에 미치지 못한다”고 평가하고 있다. 이 기사에는 한 연구자가 AI가 인간다움을 결여하고 있다는 점을 한탄하며, AI가 사랑하거나 예술, 아름다움, 유머를 감상할 수 없다는 점을 시적인 어조로 서술한 내용이 실려 있다. 다음 문단을 보면, 앞서 나온 글이 사실 ChatGPT에 의해 생성된 것임이 드러납니다. 이는 챗봇에 입력된 프롬프트의 결과로, 그 프롬프트에는 AI에 대한 회의적인 입장을 나타내는 몇 가지 단어가 포함되어 있었습니다. 이에 대해 ChatGPT는 컴퓨터가 진정으로 지능을 갖게 될 가능성은 희박하다는 내용의 길고 산만한 독백을 내놓았다.
비관론자들의 주장
이 기술에 매료된 사용자 한 명당, ChatGPT와 같은 도구가 사이버 보안에 미치는 위협에 대해 귀를 기울이는 사람이라면 누구에게나 경고하며 경종을 울리는 보안 연구원이 아마 다섯 명은 될 것입니다.
예를 들어, ‘ ’의 DarkReading 기사 (새 탭에서 열림) 에서는 머신러닝(ML) 모델을 급속히 확산되고 있는 위험한 새로운 공격 경로로 묘사하고 있습니다:
“연구진에 따르면, 위협 행위자들은 인공지능(AI)을 구동하는 머신러닝(ML) 모델을 탈취해 악성코드를 배포하고 기업 네트워크 내에서 횡방향 이동을 할 수 있는 것으로 밝혀졌다.” “대개 공개적으로 이용 가능한 이러한 모델들은 조직의 공급망을 오염시킬 수도 있는 다양한 공격의 새로운 발판이 되고 있으며, 기업들은 이에 대비해야 합니다.”
같은 날 HiddenLayer의 SAI 팀이 게시한 ‘’ 블로그 게시물 (새 탭에서 열림)에 따르면, 해당 팀의 연구원들은 위협 행위자가 ML 모델을 활용해 기업 네트워크에 침투하는 방법을 보여주는 개념 증명(POC) 공격을 개발했다고 주장한다.
보도에 따르면, 이번 공격은 “악성 페이로드를 숨기기 위한 스테가노그래피와 임의의 코드를 실행하는 데 악용될 수 있는 데이터 역직렬화 취약점”을 비롯한 여러 기법을 조합해 이루어진 것으로 알려졌다.
이 게시물은 이번 공격에 사용된 무기화된 모델이 현재의 안티바이러스 탐지 및 EDR 솔루션을 회피한다고 지적하며, “현재 가장 널리 사용되는 악성코드 방지 솔루션 대부분은 머신러닝(ML) 기반 위협을 탐지하는 데 거의 또는 전혀 도움을 주지 못한다”고 덧붙였습니다.
보안 전문가들이 우려하는 또 다른 주요 문제—아마도 가장 명백한 문제일 수도 있겠지만—는 ML 모델이 매우 정교하고 설득력 있는 피싱 캠페인을 생성할 수 있는 잠재적 능력입니다..
의 여러 연구원들은 이미 (새 탭에서 열림)ChatGPT가 설득력 있는 피싱 메시지와 미끼를 생성하는 능력을 테스트해 보았으며, 놀랍게도 매우 성공적인 결과를 얻었습니다.
일부 진취적인 사용자들은 이미 사용자들이 ChatGPT의 이메일 생성 기능을 활용할 수 있도록 돕는 간편한 인터페이스를 개발해 놓았습니다.
또한 머신러닝 모델이 공급망에 미칠 수 있는 잠재적 영향에 대한 우려도 제기되고 있다. IT 자원이 제한적인 조직들은 종종 머신러닝 모델을 배포할 때 오픈소스 모델 공유 저장소를 활용합니다. 이러한 저장소들은 대개 적절한 감독과 포괄적인 보안 통제 수단이 부족합니다.
이는 위협 표면을 확대하는 동시에, 오염되었거나 악용될 가능성이 높은 모델에 의존함으로써 사용자에게 더 큰 위험을 안겨주는 이중적인 결과를 초래합니다. 모델을 제3자에게 의존하는 기업들도 마찬가지입니다.
타늄(Tanium) 사이버 위협 인텔리전스 팀의 애널리스트 의견
“물론 이러한 다양한 POC가 실제 환경에서 성공할 가능성은 낮을 것으로 보이지만, 이 기술이 아직 초기 단계에 있으며 위협 행위자들이 그 발전 상황을 확실히 주시하고 있다는 점을 염두에 두는 것이 중요합니다.”
"그렇긴 하지만, 신중한 낙관을 가질 만한 이유가 있다." 지금까지 너무 오랫동안 ‘ML’과 ‘AI’라는 용어들은 주로 공급업체와 사이버보안 전문가들이 이사회 회의실이나 줌(Zoom) 화상 회의에서 남발해 온 유행어에 불과했습니다. 그러나 머신러닝(ML)은 사이버 보안 분야에서 진정으로 핵심적인 기술로 부상할 수도 있다. "AI 기반 솔루션은 추세를 분석하고 이를 통해 학습함으로써 공격을 더 초기 단계에서 예방하고, 위협 행위자들이 행동 양식을 바꿀 때 더 신속하게 대응할 수 있는 잠재력을 지니고 있습니다."
"또한, 이를 통해 사이버 보안 팀이 전반적인 대응 계획에 있어 보다 선제적으로 대응할 수 있게 되어, 진행 중인 위협을 실시간으로 완화하는 데 도움이 되며, SOC가 다른 기회와 활동을 추진할 수 있도록 시간과 자원을 확보할 수 있게 해줍니다.”
2. '블랙 프록시'는 해커들 사이에서 점점 더 인기를 얻고 있다
인터넷 정보 분석 업체 도메인 툴스(Domain Tools)의 연구원들이 ‘ Black Proxies’ (새 탭에서 열림)라는 이름의 새로운 프록시 플랫폼을 시장에서 발견했습니다. 이 서비스는 신뢰성과 서비스 범위, 그리고 이용 가능한 방대한 수의 IP 주소를 강조하며 사이버 위협 행위자들을 대상으로 마케팅되고 있다. Black Proxies는 위협 행위자들이 작전을 수행할 수 있는 전 세계 1.000.000 개 이상의 주거용 및 기타 프록시 IP 주소를 보유하고 있다고 주장합니다.
프록시 네트워크의 작동 원리
프록시는 위협 행위자가 자신의 활동이 시작된 IP 주소를 숨기거나 난독화함으로써 익명으로 활동을 수행할 수 있게 해줍니다. 이러한 프록시의 시장 용어는 ‘프록시 네트워크’이며, 더 포괄적으로는 ‘프록시 서비스’라고도 불립니다. 이러한 솔루션을 통해 위협 행위자들의 활동은 사실상 정상적인 트래픽 속에 섞여 버리게 됩니다.
프록시 네트워크는 다른 위협 환경과 마찬가지로 수년에 걸쳐 진화해 왔습니다. 과거에는 피해자가 속아 컴퓨터에 악성코드를 다운로드하게 되면, 해당 컴퓨터가 다른 피해자들을 감염시키는 데 이용되었고, 이후 위협 행위자는 최초 감염된 호스트와 그 후 감염된 모든 컴퓨터의 IP 주소를 이용해 추가적인 악성 활동을 수행하는 데 이를 프록시로 활용했습니다.
이 방법은 꽤 오랫동안 사용되어 왔지만, 그 효과는 위협 행위자가 침해할 수 있는 피해자의 수와 해당 시스템에서 지속성을 유지할 수 있는 위협 행위자의 능력에 따라 제한을 받습니다.
대리 전술의 진화
최근 몇 년간 프록시 IP가 공격 전달 경로 및 공격자의 전술로서 주목을 받고 있다. 악의적인 행위자들은 IP 주소를 한 번에 하나씩 추가해 네트워크를 확장하는 것만으로는 충분하지 않다는 사실을 깨닫고 있다. 보안 전문가들은 악성으로 판명된 IP 주소를 차단하는 경우가 많기 때문에, 위협 행위자들은 끊임없이 새로운 IP 주소를 확보해야만 합니다.
이 때문에 악성 프록시 서비스들은 더 방대한 IP 인프라를 구축하기 위해 지속적으로 진화해 왔습니다. 최근 관찰된 두 가지 새로운 수법으로는 새로운 IP 주소 범위에 부정하게 접근하는 것과 전체 ASN 블록을 재할당받는 것이 포함됩니다.
- RESNET: RESNET (새 탭에서 열림) 는 사기 수법을 사용하여 미국 이동통신사들로부터 IP 주소 블록에 대한 접근 권한을 획득하던 서비스였습니다. Krebs의 보안 관련 기사( , 새 탭에서 열림)에 따르면, 2019 RESNET은 70.000 개 이상의 IP 주소를 관리하고 있으며, 입니다. RESNET이 처음 제공한 서비스는 ‘스니커봇’ 이용 권한이었으며, 이를 통해 서비스 이용자들은 인기가 매우 높은 스니커즈를 구매하려고 시도할 수 있었습니다. RESNET을 운영하는 측에서는 스니커봇 외에도 더 광범위하고 수익성이 높은 시장이 있다는 사실을 분명히 깨달았고, 곧바로 프록시 서비스 제공으로 사업 방향을 전환했습니다. 이 서비스는 결국 법 집행 기관에 의해 중단되었습니다.
- INSORG: INSORG는 RESNET보다 훨씬 더 공격적인 전술을 구사했던 또 다른 인기 있는 프록시 서비스였습니다. INSORG는 파산 관리 중인 기업들이 보유한 IP 주소 공간과 ASN을 일일이 열거했다. 파산 관리인을 사칭하고 지적재산권 등록 기관에 서류를 제출함으로써, 전체 범위를 부정하게 재할당할 수 있었다. INSORG는 결국 당국에 의해 폐쇄되었습니다. (새 탭에서 열림) 2020년 말경.
올해 초, FBI는 사이버 범죄자들이 자격 증명 무차별 대입 공격을 용이하게 하기 위해 악용하는 프록시 서버의 수가 증가하고 있다는 경고를 발표했습니다. 이 권고안에는 해당 활동과 관련된 조직적 위험을 줄이기 위한 권고 사항이 포함되어 있었으나, 결국 악성 프록시의 위협이 점점 커지고 있음을 부각시키는 역할을 했다.
블랙 프록시 업체들이 악성 프록시 시장에 진출하여, 이러한 서비스에 대한 증가하는 수요를 충족시키기 위해 나섰습니다. 앞서 언급한 바와 같이, Black Proxies는 전 세계 각지에서 수집한 1.000.000 개 이상의 주거용 및 기타 프록시 IP 주소를 보유하고 있으며, 위협 행위자들은 언제든지 이를 이용할 수 있습니다. 연구진은 해당 서비스를 조사한 결과, 2022 년 가을에 Black Proxies가 공개한 IP 주소 풀이 180.000 개 조금 넘는 수준인 것으로 확인했다. 이 수치는 해당 서비스가 주장하는 1.000.000보다 훨씬 적지만, 여전히 기존의 서비스들이 제공하는 IP 주소 범위보다는 상당히 많은 편입니다.
블랙 프록시(Black Proxies)의 서비스는 사이버 범죄자들에게 특히 흥미를 끌 만한 기능을 포함함으로써 고객의 요구를 충족시킵니다.
Bleeping Computer의 연구원들이 Black Proxies의 가격 책정 모델을 밝혀냈다. 이 서비스 이용 요금은 1일당 14 달러, 1주당 39 달러, 또는 1개월당 89 달러입니다. 또한 4,90달러라는 저렴한 가격에 체험판 옵션도 제공되는 것으로 보입니다. 또한 Bleeping Computer는 Black Proxies 인프라에 포함된 한 IP 주소가 과거에 다른 수상한 서비스들과 연관되어 있었다는 사실을 확인했다.
타늄(Tanium) 사이버 위협 인텔리전스 팀의 애널리스트 의견
“악의적인 활동을 벌이는 위협 행위자들이 프록시 네트워크와 서비스를 이용하는 것은 결코 새로운 현상은 아니지만, 지난 몇 년간 그 사용이 꾸준히 증가해 왔다.” “현재 사이버 범죄자들이 범죄 활동을 더 수월하게 진행할 수 있도록 돕기 위해 처음부터 체계적으로 구축된 다양한 프록시 서비스들이 등장하고 있습니다.”
DomainTools가 이를 아주 잘 요약해 놓았습니다:
범죄용 프록시 네트워크는 이제 사이버 범죄계의 주류로 자리 잡았다. 악의적인 행위자들은 이를 이용해 탈취한 IP 주소 뒤에 숨어 자신의 활동을 난독화함으로써, 자신의 작전을 위장하기 위한 합법성의 외관을 조성합니다. 이러한 네트워크는 한때 봇넷 구축의 일환으로 구축되었으나, 이 서비스들이 가져다주는 막대한 수익 덕분에 이제는 그 자체로 범죄 조직으로 변모했습니다.
3. 미국 국토안보부(DHS) 사이버 안전 위원회, Lapsus$ 해커 집단의 해킹 전술 검토 예정
미국 국토안보부( ) (새 탭에서 열림) (DHS)가 발표한 보도자료에 따르면, 2022년 12월 2일, 바이든 행정부가 새로 출범한 사이버 안전 검토 위원회() (새 탭에서 열림) (CSRB) — 바이든 대통령의 ‘국가 사이버 보안 강화’에 관한 행정명령(EO) 14028 호에 따라 설립된 — 이 전 세계적으로 활동하며 갈취를 주된 목적으로 하는 해킹 집단 ‘Lapsus$’에 기인한 것으로 지목된 최근의 사이버 공격 사건들을 검토할 것이라고 밝혔다.
Lapsus$는 올해 초 다수의 유명 기업을 해킹한 주범으로 지목되고 있다. 수많은 사건으로 인해 독점 데이터, 소스 코드 및 기타 극히 민감한 정보가 유출되었으며, 이는 결국 여러 건의 대규모 데이터 유출 사고로 이어졌습니다.
Lapsus$: 다시 살펴보기
BleepingComputer의 보도에 따르면, Lapsus$ 그룹은 주요 기술 기업들을 대상으로 한 일련의 놀라울 정도로 효과적이고 파괴적인 사이버 공격으로 인해 잇달아 화제의 중심에 섰다.
에서 2022년 가장 활발한 사이버 범죄자 중 하나로 꼽히는 (새 탭에서 열림) Lapsus$는 랜섬웨어 모델과 같은 전통적인 TTP(전술, 기술, 절차)를 피함으로써, 금전적 동기나 갈취에 초점을 맞춘 다른 범죄 집단들과 차별화되었습니다. 대신, 상당히 정교한 사회공학적 기법을 활용한 인간 중심의 방법을 통해 대상 환경에 접근하고 있습니다.
Lapsus$가 선호하는 초기 침투 방식에 대해 제기된 두 가지 주요 경쟁 이론은, 제3자 서비스 제공업체(특히 Okta와 같은 인증 서비스를 제공하는 업체)의 보안 침해로 인한 침투와, 유명 기업 내 내부자를 대상으로 한 채용 및 사회공학적 기법을 통한 침투인 것으로 보인다.
Lapsus$는 또한 그룹이 작전 보안(OPSEC)에 얼마나 중점을 두는지, 혹은 전혀 중점을 두지 않는지에 관해서도 다소 이단아 같은 존재입니다. 홍보를 꺼리는 일이 전혀 없는 Lapsus$는 공개 텔레그램 채널을 통해 자신들의 활동을 거리낌 없이 홍보해 왔다.
CSRB, Lapsus$의 전술에 대한 두 번째 검토 실시 예정
CSRB가 Lapsus$ 그룹의 해킹 활동을 분석한 것으로 알려진 목적은, 공공 및 민간 기관 모두에게 이 그룹의 전술은 물론, Lapsus$가 기본적인 TTP를 활용하여 이룬 놀라운 성공 사례에 영향을 받았을 가능성이 있는 다른 그룹들의 전술에 대비할 수 있도록 조언을 제공하는 데 있다.
알레한드로 N. 마요르카스 국토안보부(DHS) 장관은 “Lapsus$에 대한 이번 검토를 통해 위원회는 첫 번째 검토에서 얻은 교훈을 바탕으로, 민간 및 공공 부문이 사이버 회복탄력성을 강화할 수 있도록 실질적인 권고안을 제시할 것”이라고 말했다.
특히 주목할 점은, 여러 업계 언론 매체들이 내세우고 있는 헤드라인의 표현이 매우 오해의 소지가 있다는 것이다. 일부 사이트들은 CSRB가 Lapsus$의 전술에 대한 두 번째 검토를 진행할 것이라고 주장하고 있다. 이는 사실이 아닙니다. CSRB는 사실 현재 두 번째 검토 기간을 진행 중입니다(첫 번째 검토는 널리 사용되는 Log4j 오픈소스 소프트웨어 라이브러리에서 2021 년 후반에 발견된 취약점에 초점을 맞췄습니다).
타늄(Tanium) 사이버 위협 인텔리전스 팀의 애널리스트 의견
“CSRB가 Lapsus$에 대해 적극적으로 조사하고 있다는 점은 고무적이다.” 이 조직이 보여주는 (표적 선정에 있어서의) 대담함, (피해자를 조롱하고 전반적으로 냉담한 온라인 이미지를 유지하는 데서 드러나는) 거침없음, 그리고 자동화된 솔루션으로는 막기 거의 불가능한 TTP(전술·기술·절차)와 사회공학 기법에 대한 의존도가 결합된 이 조합은 어떤 조직이라도 긴장하게 만들 만한 요소들입니다."
"Lapsus$의 여러 구성원이 법 집행 기관에 의해 체포된 것으로 알려졌지만, 이 단체의 전술은 사이버 위협 환경 내의 범죄 세력들에게 상당한 인상을 남겼다." "공격들은 점점 더 사회공학, 내부자 위협, '리빙-오프-더-랜드(LOL)' 전술·기술·절차(TTP) 등을 활용하고 있다."
"CTI 팀은 CSRB의 추가 조사 결과를 기대하고 있으며, 앞으로도 Lapsus$의 활동을 계속 조사해 나갈 것입니다."
