영국에 본사를 둔 한 에너지 기업을 대상으로 한 ‘ ’ 사이버 공격 에서는 AI를 이용해 CEO의 목소리를 모방하고, 한 직원을 속여 2019년 243.000 달러를 가짜 계좌로 이체하도록 유도했다. 의 사이버 스파이 활동 은 AI로 생성된피싱 이메일을 통해 전 세계 2021 개 통신사를 표적으로 삼았습니다. And last year, hackers using AI injected fake video streams into the biometric verification process of crypto exchange Bitfinex, ultimately earning themselves $150 million worth of digital assets.
AI를 활용한 사이버 공격은 날이 갈수록 더욱 정교해지고 탐지를 피하기 어려워지고 있다.
좋은 소식은? AI의 힘은 양날의 검과 같으며, 점점 더 많은 기업들이 자사의 사이버 방어 체계에 AI (및 그 하위 분야인 머신러닝)을 도입할 수 있는 기회를 모색하고 있습니다. 말하자면 ‘불로 불을 끄는’ 셈이죠.
델로이트( )의 조사 결과에 따르면, 오늘날 기업의 3분의 2 이상(69%)이 사이버 위협이 사이버 분석가의 대응 능력을 넘어서는 수준으로 증가하고 있기 때문에 사이버 보안에 AI가 필수적이라고 믿고 있는 것으로 나타났다. .
클라우드 보안 연합(CSA)의 AI 거버넌스 및 규정 준수 이니셔티브 공동 의장인 마리아 슈웽거는, 사이버 보안 프로그램에서 AI의 활용이 아직 초기 단계에 머물러 있기는 하지만 그 잠재적 이점은 분명하다고 말한다. AI는 방대한 양의 데이터를 처리하고, 패턴을 신속하게 인식하며, 정보에 기반한 의사결정을 내릴 수 있는 능력을 갖추고 있어, 조직이 취약점과 위협을 파악하고, 위협을 최소화하거나 제거하며, 더 신속하게 대응할 수 있도록 돕는다. “AI, 특히 GenAI는 단순히 우리의 사이버 보안을 지키는 데 도움을 주는 것 이상입니다,”라고 그녀는 말합니다. “그들은 우리가 새로운, 회복탄력성이 뛰어난 시스템을 통해 새로운, 회복탄력성이 뛰어난 세상을 만들어가도록 돕고 있습니다.”
조직들이 사이버 보안 프로그램에 AI를 적용하는 방안을 모색하기 시작함에 따라, 전문가들은 다음 분야들이 큰 잠재력을 지니고 있다고 말합니다.
1. AI 기반 사이버 보안 도구가 취약점 테스트를 어떻게 개선할 것인가
소프트웨어 엔지니어들은 안전한 코드를 작성하기 위해 노력하지만, 때로는 실수가 발생하기도 합니다. 그들은 부적절한 오류 처리나 사용자 입력 검증 누락으로 인해 의도치 않게 취약점을 유발할 수 있습니다( , ); 복잡한 시스템의 특성상 모든 잠재적 보안 취약점을 미리 예측하기 어려울 수 있으며; 또는 소프트웨어 엔지니어들이 새로운 기능을 신속하게 출시해야 하는 촉박한 마감 기한에 쫓기다 보니, 코드 품질과 보안 측면에서 타협하거나 대충 처리하는 경우가 발생할 수 있습니다.
”AI와 GenAI는 단순히 사이버 보안을 지키는 데만 도움을 주는 것이 아닙니다. “그들은 우리가 새로운 회복탄력성을 갖춘 시스템을 통해 회복탄력적인 새로운 세상을 만들어가는 데 힘을 보태고 있습니다.”클라우드 보안 연합(Cloud Security Alliance)의 AI 거버넌스 및 규정 준수 이니셔티브 공동 의장, 마리아 슈웽거
UC 버클리 장기 사이버보안 센터의 연구 과학자이자 데이라이트 랩(Daylight Lab) 소장인 닉 메릴은 “게다가”라며, “소프트웨어 엔지니어들은 보안에 대해, 그리고 자신이 작성한 소프트웨어에서 취약점을 찾는 방법에 대해 놀라울 정도로 잘 모른다”고 말했다.
일반적으로 실제 환경에서 취약점이 보고되면, 개발자들은 해당 버그를 찾아내고 이를 수정할 책임이 있습니다. 이는 까다롭고 지루한 작업일 수 있는데, 버그의 근본 원인을 파악하거나 버그를 이해하고 해결책을 마련하기 위해 특정 조건이나 시나리오를 재현하기 위해 수많은 파일과 모듈을 일일이 살펴봐야 하기 때문입니다. 그러나 메릴은 AI를 활용하면 조직이 코드 내 잠재적 취약점을 탐지하고 해결하는 속도와 효율성을 높여, 더 안전한 환경을 조성할 수 있다고 말합니다.
[함께 읽어보세요: AI 사이버 보안에 대한 종합 가이드 – 이점, 위험 및 보상]
예를 들어, AI 기반 도구는 코드베이스를 스캔하여 패턴을 분석함으로써 SQL 인젝션이나 크로스사이트 스크립팅과 같은 일반적인 위험 요소를 탐지하고 잠재적인 취약점을 식별할 수 있습니다. 또한 AI는 알려진 취약점이 포함된 대규모 데이터셋을 통해 훈련되어 새로운 코드에서 유사한 패턴을 식별함으로써, 이전에 알려지지 않았던 취약점이나 제로데이 익스플로잇을 밝혀낼 수 있습니다.
“이렇게 하면 보안 팀이 실제 환경에서 문제가 보고된 후에야 뒤늦게 버그를 찾아내어 패치하는 데 시간을 낭비할 필요가 없기 때문에 시간과 노력을 절약할 수 있습니다,”라고 그는 말합니다. “요즘 같은 시기에 개발자들이 보안 문제를 스스로 해결할 수 있도록 지원하는 것은 큰 성과가 될 것입니다.”
2. AI 기반 사이버 보안 도구가 위협 탐지 능력을 어떻게 강화할 것인가
잠재적인 보안 위협을 조기에 파악하면, 기밀 데이터, 지적 재산권 및 조직의 “핵심 자산”을 구성하는 기타 귀중한 자산에 대한 무단 접근을 방지하는 데 도움이 됩니다. 이를 통해 조직은 막대한 비용이 드는 데이터 유출, 재정적 손실 및 평판 훼손을 방지할 수 있습니다.
“개발자들이 [AI를 활용해] 보안 문제를 해결할 수 있도록 지원하는 것은 요즘 같은 시기에 큰 성과가 될 것입니다.”닉 메릴, 캘리포니아 대학교 버클리 캠퍼스 장기 사이버보안 센터 산하 데이라이트 랩(Daylight Lab) 연구원 겸 소장
많은 조직에서 보안 분석가들은 보안 침해의 징후가 될 수 있는 의심스러운 활동을 파악하기 위해 시스템 로그, 네트워크 트래픽 로그, 애플리케이션 로그를 수동으로 모니터링하는 업무를 담당합니다. CSA의 슈웬거는 이 과정이 시간이 많이 걸리고 개인에게 큰 부담이 될 수 있다고 말합니다. “위협을 신속하게 파악하기란 어려울 수 있는데, 특히 사람의 눈으로는 놓치기 쉬운 매우 정교한 위협인 경우에는 더욱 그렇습니다,”라고 그녀는 말합니다. “사람이 직접 분석할 경우, 한 사람이 처리할 수 있는 데이터의 양에는 한계가 있으며, 특정 패턴을 놓치기 쉽습니다.” “하지만 AI는 우리가 놓칠 수도 있는 패턴을 찾아내는 데 정말 뛰어나죠.”
AI는 방대한 양의 데이터를 분석할 수 있기 때문에, 시스템, 네트워크 및 사용자의 정상적인 행동에 대한 기준선을 설정하는 데 활용될 수 있습니다. 슈웬거는 “AI가 편차나 이상 현상을 감지함으로써 무단 접근 시도, 비정상적인 네트워크 트래픽, 비정상적인 사용자 행동 등 잠재적인 보안 위협을 파악하는 데 도움을 줄 수 있다”고 말합니다.
[함께 읽어보세요: 생성형 AI가 초래하는 3 가지 주요 위협(그리고 또 다른 위험 1가지)과 이를 막는 방법]
“이는 데이터 속에 숨겨진 매개변수와 이상 징후를 더 빠르게 찾아낼 수 있어, 그렇지 않았다면 놓쳤을 수도 있는 부분들을 파악할 수 있게 되므로 위협 분석 측면에서 엄청난 발전입니다,”라고 그녀는 말합니다. “이를 통해 확장성을 확보할 수 있습니다. 지루한 작업을 자동화함으로써( ) 보안 엔지니어에게 전달할 수 있는 실시간 정보를 얻을 수 있고, 이는 업무 속도를 높이고 더 민첩하게 대응하는 데 도움이 됩니다.”
3. AI 기반 사이버 보안 도구가 위협 차단 및 대응을 어떻게 가속화할 것인가
위협이 탐지되거나 보안 사고가 발생한 경우, 신속하게 대응하여 상황을 수습하는 것이 매우 중요합니다. “ 위협, 침해, 보안 침해, 그리고 랜섬웨어 공격에 있어 가장 중요한 것은 바로 속도입니다,”라고 『 Swiped: How to Protect Yourself in a World Filled With Scammers, Phishers and Identity Thieves』의 저자이자 What the Hack 팟캐스트의 공동 진행자인 아담 레빈(Adam Levin)은 말합니다. “문제를 해결하는 데 착수할 수 있도록, 가능한 한 신속하게 대응하여 문제를 차단하고 해결책을 모색할 수 있는 여건을 마련해야 합니다.” “위협을 더 빨리 차단할수록, 그에 맞서 방어할 수 있는 속도도 빨라집니다.”
“문제를 해결하는 데 착수하기 위해서는, 가능한 한 신속하게 대응하여 문제를 차단하고 해결책을 모색할 수 있는 여건을 마련해야 합니다.”작가이자 ‘What the Hack’ 팟캐스트 공동 진행자인 아담 레빈
기존의 위협 차단 및 대응 방식은 수동적인 개입에 크게 의존하고 있습니다. 예를 들어 보안 사고가 발생하면, 분석가들은 영향을 받은 시스템을 수동으로 파악하고, 침해된 자산을 격리한 뒤, 확산 방지 조치를 시행해야 합니다. 보안 분석가들은 보안 경고, 로그 및 포렌식 데이터를 수동으로 검토하여 사고의 범위를 파악한 뒤, 시스템에 패치를 적용하거나 침해된 인증 정보를 재설정하는 작업을 수행합니다. 이러한 절차에는 시간이 소요되며, 인적 오류가 발생할 여지가 있어 문제 해결이 더욱 지연될 수 있습니다.
[함께 읽어보세요: AI가 진정으로 지능적임을 확인하기 위한 3 가지 고려 사항]
그러나 슈웽거는 “AI를 활용하면 알고리즘이 위협의 심각성과 영향을 자동으로 평가하고( ), 어떤 자산이 영향을 받았는지 파악하며(), 심지어 대응 조치를 조율할 수도 있다”고 말합니다. 여기에는 감염된 엔드포인트를 자동으로 격리하거나, 악성 트래픽을 차단하거나, 침해된 서비스를 중지하는 등의 조치가 포함될 수 있습니다.
“AI가 이러한 통찰력을 제공하고 권장 사항을 제시해 주기 때문에, 보안 팀이 정보에 입각한 결정을 내리고 사고에 대응하는 데 정말 큰 도움이 됩니다. 덕분에 무작정 추측에 의존해야 하는 상황을 완전히 없앨 수 있죠,”라고 그녀는 말합니다. “또한 앞으로는 제너레이티브 AI(GenAI) 역시 큰 잠재력을 지니고 있는데, 이를 활용하면 사고 발생 후 보고서와 요약문을 작성하고, 답변을 준비하며, 이해관계자들에게 최신 정보를 지속적으로 전달하는 데 도움을 줄 수 있을 것입니다.”
보안 분야에서 AI의 잠재력은 막대하지만, 슈웽거는 어떤 보안 프로그램에서든 인간 보안 전문가( )의 지속적인 필요성과 가치를 재빨리 강조한다.. “AI의 성능은 그 기반이 되고, 학습에 활용되며, 분석 대상으로 삼는 데이터의 질에 따라 결정됩니다.” “인간의 전문성과 감독을 대체할 수 있는 것은 아무것도 없으며, 이는 앞으로도 항상 필요할 것입니다.”라고 그녀는 말한다.
