메인 콘텐츠로 건너뛰기
정보 보안 분석가가 근처의 차트를 보고 있는 모습의 측면 사진
설명자

AI 사이버 보안에 대한 종합 가이드: 이점, 위험 및 보상

AI 사이버 보안이란 머신러닝과 신경망 등 인공 지능 기술을 활용하여 위협을 탐지하고, 사고 대응을 자동화하며, 기업 IT 환경 전반에 걸쳐 보안 운영을 강화하는 것을 말합니다.

신경망 아키텍처를 기반으로 하는 기계 학습 의 한 형태로 정의되는 AI는 단순한 유행어 그 이상입니다. AI는 너무나 빠르게 성장하고 있어 엘론 머스크조차도 AI의 급속한 발전을 멈출 수 없을 정도입니다. 그리고 AI의 활용은 당분간 주춤할 기미를 보이지 않고 있다.

블룸버그 인텔리전스(Bloomberg Intelligence)가 최근 발표한 ‘블룸버그 테크놀로지 인덱스( )’ 보고서 에 따르면, 생성형 AI 시장은 2032년까지 연간 매출 1,8 조 달러를 달성할 것으로 전망되며, 이는 전 세계 기술 지출의 최대 16%에 달할 것으로 예상된다.

AI 도입과 확산이 예상됨에 따라, 많은 조직들이 AI가 전통적으로 인간의 분석에 의존해 온 업무, 즉 대량의 데이터 처리, 점점 더 복잡해지는 환경 관리, 민감한 데이터와 핵심 시스템을 보호하는 사이버 보안 전략 강화 등을 개선할 수 있을지 평가하고 있습니다.
이 가이드에서는 AI가 사이버 보안 운영에서 실질적인 가치를 창출하는 분야, 새로운 위험을 초래하는 분야, 연방 기관들이 AI 기반 위협에 대해 어떤 신호를 보내고 있는지, 그리고 Tanium이 팀들이 자신감과 통제력을 바탕으로 AI의 잠재력을 활용할 수 있도록 돕기 위해 자율적인 엔드포인트 관리 솔루션을 어떻게 구축하고 있는지를 상세히 설명합니다.

사이버 보안 분야에서 AI를 활용할 때의 이점

사이버 보안 산업 내에서 AI 역량의 전체적인 범위와 영향이 아직 완전히 파악되지는 않았지만, 다음은 일반적인 문제 영역에 대한 간략한 개요와 AI 기반 시스템이 유망한 결과를 보여주고 있는 적용 분야입니다:

위협 탐지 능력 향상

AI는 네트워크 트래픽, 시스템 로그, 사용자 행동, 외부 위협 인텔리전스 등 다양한 데이터를 처리하여 공격자의 활동을 시사할 수 있는 이상 징후를 파악할 수 있습니다. 여기에는 랜섬웨어나 피싱과 같은 잘 알려진 공격 유형은 물론, 제로데이 공격이나 APT(고도화된 지속적 위협)와 같은 이전에 발견되지 않았던 위협도 포함됩니다.

사전 예방적 위협 탐지 지원

AI는 위협 탐지 작업을 더 빠르고 정확하게 수행할 수 있게 해줍니다. 기존 방식은 대개 수동 분석과 정적 규칙에 의존하기 때문에 처리 속도가 느릴 뿐만 아니라 정교한 위협을 놓칠 수도 있습니다.

AI는 네트워크 트래픽, 사용자 행동 및 과거 사고 데이터를 분석하여, 위협이 알려진 것이든 새로운 것이든 상관없이 악의적인 활동을 암시하는 패턴과 이상 징후를 식별함으로써 이 과정을 가속화합니다.

보안 위협에 대한 사고 대응 속도 향상

AI는 초기 대응 조치를 자동화하고 실제 위험도를 바탕으로 사고의 우선순위를 정함으로써 사이버 공격의 영향을 최소화하는 데 도움을 줄 수 있습니다. 이를 통해 팀은 일반적으로 수동으로 문제를 분류할 때보다 더 빠르게 침해된 시스템을 격리하거나 , 엔드포인트 기기 또는 네트워크 세그먼트를 격리할 수 있습니다.

또한 AI는 보안 팀에 실시간 대응 조치를 제공할 뿐만 아니라, 시스템 기능을 정상화 및 복구하는 데 필요한 맞춤형 경보, 권장 사항 및 지침을 제공할 수 있습니다.

사고 조사 속도 높이기

사고가 발생하면 분석가는 공격의 범위와 심각성을 파악하기 위해 방대한 양의 데이터를 수집, 검토 및 분석해야 합니다. 이는 특히 규모가 크고 복잡한 사고를 처리할 때 시간이 많이 걸리고 번거로울 수 있습니다.

AI는 로그, 네트워크 트래픽, 엔드포인트, 위협 인텔리전스 등 다양한 출처에서 데이터를 수집하고, 상호 연관성을 파악하며, 분석하는 과정을 자동화함으로써 해당 프로세스를 단축하는 데 도움을 줄 수 있습니다. 또한 AI는 수사관들이 공격의 범위와 영향에 대한 보다 포괄적인 전모를 훨씬 더 짧은 시간 내에 파악할 수 있도록 도와줄 수 있습니다.

예측 기반의 위협 방지 기능 제공

딥러닝 과 같은 AI 모델은 잠재적인 위협이 시스템을 침해하기 전에 이를 선제적으로 식별하고 자동으로 차단함으로써 사이버 공격을 예방하는 데 도움이 될 수 있습니다. 또한 AI는 지도 학습, 비지도 학습, 반지도 학습과 같은 다양한 알고리즘을 활용하여 과거 데이터를 통해 학습하고, 예측 분석을 수행함으로써 향후 발생할 수 있는 사건을 더 정확하게 예측할 수 있습니다.

근본 원인 파악

기존의 근본 원인 분석은 수동적인 데이터 수집 및 해석에 의존하기 때문에, 인적 오류나 오탐의 가능성이 내재되어 있습니다.
AI는 이러한 작업의 상당 부분을 자동화하여, 방대하고 복잡한 데이터 세트 전반에 걸쳐 데이터를 상호 연관시킴으로써 팀이 공격을 가능하게 한 취약점이나 잘못된 구성을 파악할 수 있도록 지원합니다. 그 결과, 보안 위협에 대한 더 정확한 파악, 더욱 견고한 보안 태세, 그리고 분석가들이 더 높은 가치를 지닌 업무에 집중할 수 있는 시간이 늘어났습니다.

[함께 읽어보세요: 귀사의 보안 전략에 사이버 보안 분석이 빠져 있지는 않나요?]

이러한 기능들은 서로 결합하여 사용할 때 가장 큰 효과를 발휘합니다. AI의 가치를 최대한 실현하기 위해서는 데이터 품질, 전체 환경에 걸친 통합, 그리고 AI의 출력 결과를 신뢰하며 조치를 취하기 위해 필요한 사람의 감독이 필수적입니다. 이 모든 요소가 결합되어 보다 선제적이고 신속하게 대응할 수 있는 보안 운영의 기반을 마련합니다.

이러한 이점들은 보안 운영 분야에서 AI 도입의 설득력 있는 근거가 됩니다. 하지만 방어 체계를 강화하는 바로 그 기능들은 공격자들에게도 이용될 수 있습니다. 이러한 위험 요소를 이해하는 것은 긍정적인 측면을 이해하는 것만큼이나 중요합니다.

AI가 정말로 미래의 사이버 공격을 예측할 수 있을까?

네, AI는 향후 사이버 공격을 예측하는 데 도움이 될 수 있지만, 현실은 헤드라인이 시사하는 것보다 훨씬 더 복잡합니다. AI 기반 보안 도구는 특정 공격을 예측하지 않습니다. 그들은 공격 발생 가능성을 높이는 요인들을 파악합니다.

AI 사이버 보안에서 말하는 ‘예측’이란, 공격이 발생하기 전에 잠재적 위협을 탐지하기 위해 수행되는 모든 작업을 의미합니다. 이러한 예측을 ‘악천후 주의보’와 ‘경보’의 차이로 생각하면 이해하기 쉽습니다. AI 보안 솔루션은 지속적인 모니터링과 분석을 통해 향후 공격으로 이어질 수 있는 모든 요소가 존재하는지 ‘감시’할 수 있으며, 이를 통해 팀은 ‘경보’나 실제 공격이 발생하기 전에 악용될 수 있는 취약점을 선제적으로 파악하고, 차단하며, 해결하는 조치를 취할 수 있습니다.

머신러닝 알고리즘과 통계 기법을 활용해 과거 데이터로부터 학습하고 위협 탐지 능력을 향상시키는 과정인 예측 모델링을 통해, AI 기반 솔루션은 네트워크 트래픽, 시스템 로그, 위협 인텔리전스 피드, 사용자 행동 등 다양한 출처의 방대한 데이터를 분석하여, 이전에 한 번도 발견된 적이 없는 잠재적 위협을 암시할 수 있는 패턴과 이상 징후를 식별할 수 있습니다.

어떻게요? AI 기반 사이버 보안 도구는 악의적인 행동을 탐지하도록 설계되었기 때문에, 알려진 위협만을 식별하도록 만들어진 기존 보안 도구에 비해 제로데이 위협을 식별하는 데 탁월합니다.

”안티바이러스 소프트웨어, 패치 적용, 방화벽 및 기타 사이버 보안 통제 수단을 포함하는 기존의 방어 방식은 벤더와 조직에 알려지지 않은 제로데이 공격에 대해서는 효과가 떨어집니다. 제로데이 공격은 알려진 공격에 대한 시그니처 정보를 포함하고 있는 기존의 시그니처 및 이상 징후 기반 탐지 방식과 안티바이러스 소프트웨어를 우회합니다.”
Kelly Morgan, Role of AI in Threat Detection and Zero-day Attacks1

AI는 사이버 보안 운영에 실질적인 역량을 확실히 더해줍니다. 하지만 방어 체계를 강화하는 바로 그 기법들은 공격자들도 이용할 수 있습니다. AI 도입에 관한 현명한 결정을 내리기 위해서는 이 방정식의 양측면을 모두 인식하는 것이 매우 중요합니다.

다음 섹션에서는 공격자들이 AI를 활용해 공격 규모를 확대하고 작전을 정교화하는 방식과, 이것이 여러분의 방어 전략에 어떤 의미를 갖는지 살펴봅니다.

사이버 보안 분야에서 인공지능의 보안 위험 및 한계

조직과 사용자들이 다양한 비즈니스 프로세스에 AI 및 관련 기술을 도입하고 있는 반면, 위협 행위자들도 유사한 AI 도구를 활용해 더 빠르고 손쉽게 피해를 입히고 있습니다.

안타깝게도 많은 사람들이 AI로 인해 대두되고 있는 이러한 위협에 대비하지 못하고 있다. 컨설팅 회사 맥킨지(McKinsey)가 발표한 ‘생성형 인공지능( ) 현황’에 관한 2023 보고서 에 따르면, 응답자 중 38%만이 생성형 AI의 사이버 보안 위험을 적극적으로 완화하고 있는 것으로 나타났는데, 이 수치는 작년 실시된 동일 연구 결과와 비교했을 때 실제로 13%나 감소했다는 사실을 알게 되면 더욱 충격적으로 다가온다.

사이버 공격에서 AI 활용이 초래할 수 있는 잠재적 위협

이러한 유형의 AI 기반 사이버 보안 사고가 점점 더 복잡해지고 정교해짐에 따라, 바이러스 백신 소프트웨어, 방화벽, 침입 탐지 시스템과 같은 기존 보안 솔루션에 상당한 어려움을 초래할 수 있습니다. 이러한 솔루션은 알려진 공격을 식별하고 차단하기 위해 대체로 정적이며 규칙 기반의 시스템에 의존하기 때문에, 제로데이 취약점을 악용하거나 암호화, 난독화, 다형성 등의 고급 기법을 사용하는 새로운 공격이나 알려지지 않은 공격을 탐지하지 못할 수 있습니다.

공격자들이 AI를 활용하는 한 가지 방법은, 인간에게는 정상적으로 보이지만 기계 학습 모델을 속여 출력을 조작하도록 설계된 입력 데이터를 생성함으로써, 신경망과 같은 기계 학습 모델의 취약점을 악용하는 적대적 공격을 수행하는 것입니다. 적대적 공격의 한 예로는, AI를 활용해 이메일을 약간 변조하여 기업의 스팸 필터를 우회하는 경우가 있습니다.

사이버 범죄자들은 또한 대규모 언어 모델(LLM) 및 자연어 처리(NLP)와 같은 다양한 AI 유형을 포괄하는 생성형 AI 모델을 활용하여, 소셜 엔지니어링 기법을 개선하고 있습니다.. 예를 들어, 위협 행위자들은 AI 알고리즘을 활용해 더욱 설득력 있는 피싱 이메일을 작성합니다. 그리고 이러한 유형의 사건들은 이미 엄청난 규모로 발생하고 있습니다.

사이버 보안 기업 SlashNext( )가 발표한 ‘2023 ’ 보고서에 따르면, 2022 년 말 ChatGPT가 출시된 이후 악성 피싱 공격이 1.265% 증가했는데, 이는 생성형 AI 도구( )를 활용해 비즈니스 이메일 사기(BEC) 및 기타 피싱 이메일을 작성하는 사이버 범죄자들에 의해 촉발된 것으로 나타났다.

“대규모 언어 모델 기반 챗봇을 가장 흔히 이용하는 사용자 중에는 이 도구를 활용해 BEC 공격을 기획하고, 표적형 피싱 공격을 체계적으로 수행하는 사이버 범죄자들이 있습니다.”
SlashNext, 피싱 현황 2023

이 보고서에 따르면, 하루 평균 약 31.000 건의 피싱 공격이 발생했던 것으로 나타났다. 설문에 참여한 사이버 보안 전문가 중 약 절반은 BEC 공격을 받은 적이 있다고 답했으며, 4분의 3은 피싱 공격의 표적이 된 적이 있다고 보고했다.

피싱 이메일은 철자 오류, 문법 오류 또는 기타 결함이 포함되어 있기 때문에 예전부터 쉽게 식별할 수 있었습니다. 그러나 AI 시스템이 생성한 피싱 이메일은 일반적으로 사람이 직접 작성한 피싱 이메일보다 사용자가 열어보는 비율이 더 높습니다. 피싱 공격자들은 이제 AI 도구를 활용해 과거 콘텐츠를 분석함으로써 매우 개인화되고 정교하게 타겟팅된 피싱 이메일을 생성할 수 있게 되었으며, 이를 통해 이메일을 매우 설득력 있게 만들어 사용자들이 이메일 내 링크를 클릭하도록 더 쉽게 유도함으로써, 사용자가 의도치 않게 공격을 실행하게 만듭니다.

공격자들은 또한 생성형 AI를 활용해 독창적인 콘텐츠를 개발함으로써, 합성 신원 및 딥페이크를 비롯한 다른 유형의 AI 기반 공격에 대한 방어 체계를 우회하고 있습니다. 예를 들어, 위협 행위자들은 AI를 이용해 사람들의 목소리를 딥페이크로 조작하여 스피어 피싱을 시도하거나 다른 공격 경로를 악용할 수 있습니다.

[함께 읽어보세요: 피싱이란 무엇인가요? [피싱의 작동 원리와 주의해야 할 점]

미국 정부, AI 기반 사이버 공격의 위험성에 대해 경고

AI 기술 사용과 사회공학적 공격에 대한 우려가 커지면서, 이는 단순히 민간 부문 내의 문제에서 그치지 않고 국가적·세계적 논의로 급속히 확대되었으며, 여러 연방 기관들이 사이버 및 물리적 위협으로부터 국민과 자산을 보호하기 위한 노력을 주도하고 있다.

예를 들어, 미국 연방거래위원회(FTC)는 2023년 3월, 딥페이크에 대해 이 경고 를 발표했습니다:

전화가 걸려옵니다. 전화기 너머로 당황한 목소리가 들려온다. 손자예요. 그는 큰 곤경에 처했다고 말하는데, 차를 박살 내고 감옥에 갇혔기 때문이다. 하지만 돈을 보내주신다면 도움이 될 수 있습니다. 깊게 숨을 들이마시고 생각에 잠긴다. ‘조부모 사기’에 대해 들어보셨을 겁니다. 하지만 젠장, 그 사람 목소리랑 정말 똑같네. 어떻게 사기일 수 있겠어요? 바로 ‘목소리 복제’를 통해서죠.

정부 기관들은 사이버 보안 및 인프라 보안 분야에서 인공지능(AI)의 중요성과 복잡성을 인식하는 데 있어 여전히 핵심적인 역할을 수행하고 있다. 사이버 보안과 관련된 주목할 만한 연방 법률 중에는 2021년 5월에 발표된 행정명령 제 14028호 “국가 사이버 보안 강화(Improving the Nation’s Cybersecurity)”가 있으며, 이 명령은 연방 기관들이 사이버 보안 및 소프트웨어 공급망의 무결성을 강화할 것을 요구하고 있다.

또한, 2018 년 ‘사이버보안 및 인프라 보안청법’에 따라 사이버보안 및 인프라 보안청(CISA)이 설립되었으며, 이 기관의 임무는 국가 핵심 인프라의 보안과 복원력을 강화하기 위한 노력을 주도하고 조정하는 것이다. CISA는 또한 조직이 사이버 보안 위험을 평가하고, 모범 사례를 도입하며, 보안 사고에 대응하는 데 도움이 될 수 있는 다양한 서비스와 자료( )를 제공하고 있습니다.

[관련 기사: GenAI의 취약한 코드를 정말 ‘무시’해도 될까? 이 보안 전문가는 “그렇다”고 말합니다(어느 정도는)]

AI가 사이버 보안을 대체하게 될까요?

AI는 해당 분야를 획기적으로 변화시키는 강력한 도구이긴 하지만, 모든 사이버 보안 활동을 대체하거나 숙련된 사이버 보안 전문가에 대한 필요성을 없애지는 못할 것입니다.

위협에 대한 대응 자동화, 사고 조사 가속화, 위협 탐지 능력 향상 등 사이버 보안 강화에 활용되어 여러 가지 유망한 성과를 거두고 있음에도 불구하고, AI는 아직 독립적인 해결책으로 간주되지는 않는다.

AI가 도출한 결과를 해석하고, 전략적 결정을 내리며, AI가 완전히 파악하지 못할 수도 있는 복잡한 상황을 처리하기 위해서는 여전히 사이버 보안 전문가들이 필요합니다. 또한, 사이버 범죄자들이 AI를 활용해 더욱 정교한 공격을 감행하는 추세가 지속됨에 따라, 사람의 감독 역할은 그 어느 때보다 중요해지고 있습니다.

AI는 인간의 전문 지식과 결합되어 함께 작동할 때 가장 큰 효과를 발휘하며, 이를 통해 더욱 견고하고 효과적인 보안 조치를 마련할 수 있습니다.

AI 기반 사이버 보안이 보안 운영에 미치는 의미

사이버 보안 분야에서 의 AI 및 자동화 기술 을 활용하는 것은 도전 과제와 기회를 동시에 안겨줍니다. 사이버 범죄자들이 이러한 기술을 활용해 더욱 정교한 공격을 감행하고 있는 반면, 사이버 보안 업체들 역시 AI와 자동화 기술을 활용하여 이러한 공격에 대응할 수 있는 새로운 솔루션을 개발하고 있다.

향후 몇 달 동안 공급업체들이 생성형 AI 기능 보안 자동화 및 관련 기술을 통합하여, 조직이 사이버 보안 위협에 더 효과적으로 대응할 수 있도록 지원하는 적응형 솔루션을 개발하기 위해 경쟁함에 따라, AI에 중점을 둔 도구가 더욱 많이 출시될 것으로 예상됩니다. 조만간 이러한 AI 기반 솔루션은 데이터 유출 방지, 안티바이러스/안티멀웨어, 사기 탐지 , 신원 및 접근 관리, 침입 탐지/방지 시스템, 위험 및 규정 준수 관리, IT 자산 인벤토리 관리, 보안 및 취약점 관리 등 다양한 사이버 보안 활용 사례를 개선하는 데 기여할 수 있을 것입니다.

AI와 자동화의 활용이 지속적으로 확대됨에 따라, 보안 전문가, 사이버 보안 팀 및 조직은 AI 기반 사이버 보안 시스템을 활용하여 보안 역량과 복원력을 강화하고, 더욱 견고한 사이버 방어 체계를 구축함으로써 AI가 야기하는 최신 위협에 선제적으로 대응해야 합니다.

[관련 기사: AI 최고 책임자(CIO)가 계속 존재할 수밖에 없는 이유]

엔드포인트 관리의 미래는 자율화에 있다

타늄(Tanium)은 IT, 정보 보안, 운영, 리스크 및 규정 준수 팀을 위한 자율적인 미래를 향해 앞장서고 있습니다. 당사는 AI 및 IT 자동화 동향을 면밀히 주시하고 있으며( ), 수많은 흥미로운 새로운 기회를 창출하고 있는 이러한 획기적인 기술을 중심으로 제품 로드맵을 수립하고 있습니다.

자율 엔드포인트 관리(AEM) 는 Tanium 전략의 핵심으로 자리 잡고 있으며, 이는 당사의 플랫폼 이 지금까지 이룬 가장 야심 찬 진화를 상징합니다. XEM 플랫폼의 기반을 바탕으로, AEM은 Tanium의 독보적인 실시간 엔드포인트 데이터를 활용하여 고도로 맞춤화된 권장 사항을 제공하고, 정밀하게 작업을 자동화할 것입니다.

Tanium의 실시간 데이터가 Microsoft Copilot for Security를 어떻게 지원하는지 확인해 보세요

Tanium AI 기능은 머신러닝 알고리즘, 동종 업계의 성공률, 위험 임계값 등 다양한 출처를 바탕으로 운영되며, 이를 통해 조직은 기존의 엔드포인트 관리, 위험 및 규정 준수, 디지털 직원 경험, 사고 대응 솔루션으로는 불가능했던 방식으로 환경을 최적화하고 보안을 강화할 수 있게 됩니다.

당사는 XEM 플랫폼에 AI를 통합하여 AEM 기능을 제공하기 위해 박차를 가하고 있으며, 이를 통해 기업들은 점점 더 복잡해지고 규모가 커지는 IT 인프라를 보다 손쉽게 관리하고 보안을 강화할 수 있게 될 것입니다. 당사의 플랫폼은 3,300만 개 이상의 엔드포인트에서 발생하는 수백만 건의 작업, 수십억 건의 실시간 데이터 포인트, 그리고 1조 건의 신호를 처리하며, Tanium 커뮤니티의 전 세계적 경험을 바탕으로 학습하여 조직의 의사결정 능력을 향상시킴으로써, ‘The Power of Certainty™’를 지속적으로 제공함으로써 끊임없이 증가하는 글로벌 사이버 범죄라는 현실에 더 쉽게 대응할 수 있도록 지원할 것입니다.

1https://digitalcommons.odu.edu/cgi/viewcontent.cgi?article=1064&context=covacci-undergraduateresearch

추가 자료

AI 사이버 보안이 발전함에 따라, 본 가이드는 새로운 데이터가 등장할 때마다 최신 정보를 제공하여 기업들이 모범 사례 및 활용 사례와 관련해 보다 정보에 입각한 의사결정을 내릴 수 있도록 지속적으로 돕는 살아있는 자료가 될 것입니다.

다음과 같은 유용한 AI 자료를 확인해 보세요:

Tanium의 AI 관련 뉴스

AI에 대해 더 알아보기

듣기

전문 사이버 분석가들이 전하는 현재 진행 중인 사고와 최근 공격 사례에 대해 더 자세히 알고 싶으신가요? Tanium 사이버 위협 인텔리전스(CTI) 팀 이 작성한 ‘ ’ 블로그 시리즈를 읽어보세요. 이 시리즈에서는 최신 뉴스를 분석하여, 기업과 사이버 보안에 잠재적인 영향을 미칠 수 있는 위협 환경의 변화에 대해 여러분이 꼭 알아야 할 정보를 제공합니다.