(이 기사는 원래 2023년 6월 6일에 게재되었습니다.) 2024년 6월 6일에서) 업데이트되었습니다.
의 인공지능(AI) 이 사이버전에 어떤 영향을 미칠지 생각할 때면, 나는 연합군의 노르망디 상륙 작전이 떠오른다. 아니면 적어도 그래야만 할 텐데, 바로 그 운명적인 날의 80주년이 되는 오늘 아침, 그 사실을 다시금 깨닫게 되었습니다.
프랑스에서 벌어진 ‘ 1944년 6월 6일’에 대한 그 기습 공격에 대해 내가 항상 놀라웠던 점은, 사실 그다지 놀라운 일이 아니었다는 것이다. 미국은 수년 전부터 전쟁 참전을 선언한 바 있으며, 꾸준히 군수품을 비축하고 병력을 동원해 왔습니다. 이번 공격에는 약 160.000 명의 연합군 병력(미국 73.000 명, 영국 및 캐나다 83.000 명 등)이 참여했다. 독일군은 몇 달 전부터 그 공격이 임박했다는 사실을 알고 있었다. 그저 어디서, 언제일지는 확실하지 않았을 뿐이었다.
전장에서의 AI에 대해서도 마찬가지라고 할 수 있다. 여기서 ‘전장’이란, 여러분 주변에 있는 공격 가능한 해변, 언덕, 마지노선, 탄약고, 혹은 컴퓨터 네트워크 등을 모두 의미합니다. 목요일( ) ‘ ’ D-Day 기념 연설에서 바이든 대통령이 언급한 국가 안보 위협—대서양 횡단 나토(NATO) 방위 동맹의 균열을 노리고 있는 “세계 각국의 독재자들”—과 마찬가지로, 사이버 공격자들도 도사리고 있으며, 인공지능(AI)은 이들의 공격 수단을 가능하게 하고 있다.
이러한 공격은 국가 기관, 사이버 범죄 조직, 또는 불만을 품은 전직 직원에 의해 자행될 수 있습니다. 그리고 군사 전문가, 정치인, 기업 리더는 물론 노트북이나 휴대전화를 가진 모든 사람이 이에 대비해야 합니다.
노르망디 상륙 작전이 제2차 세계대전에서 미국의 본격적인 참전을 알리며 나치 정권의 최종 패배와 새로운 세계 질서의 도래를 예고했던 것처럼, 인공지능이 우리 군사 계획에 도입되면 엄청난 영향을 미칠 것입니다.
작년, 당시 합동참모본부 의장이었던 마크 A. 밀리 육군 대장은 유라시아 그룹 재단(Eurasia Group Foundation)이 제작한 ‘ ’ 팟캐스트( )에 출연해 “오늘날 우리는 전쟁의 성격에 있어 가장 중대하고 근본적인 변화를 겪고 있다”고 말했다. “이번에는,” 그가 덧붙였다. “[이 변화는] 기술에 의해 주도되고 있다.”
오늘 바이든 대통령과 마찬가지로, 밀리 장군은 프랑스 노르망디 미국군 묘지 및 기념관에서 열린 추모식에서 2023 번 연설을 했다. 이곳은 오마하 해변 바로 위에 9.000 명 이상의 군인이 안장되어 있는 곳이다. 두 사람 모두 그 차갑고 혼란스러운 해변을 향해 돌진했던 군인들이 보여준 용감한 희생과, 우리가 오늘날 처해 있는 새롭지만 비슷한 시대에 대해 이야기했다.
그들이 언급하지 않은 점은, 오늘의 싸움에서 다가올 변화가 벙커만큼이나 기업들에게도 큰 영향을 미칠 것이라는 사실이다.
인공지능(AI)에 관한 ‘제네바 협약’이 필요할까요?
AI는 – 이를 두려워하든, 열광하든 – 입법자, 기업 지도자, 과학자 모두에게 가장 큰 관심사입니다. 작년, 한 과학자 연합은 인공지능(AI) 개발 중단을 촉구했습니다. 이들은 OpenAI의 ChatGPT 와 같은 기술들이 그 잠재력을 완전히 파악하기도 전에, 이익과 권력을 향한 맹목적인 경쟁 속에서 무분별하게 대중에게 공개되고 있다는 점을 우려했습니다. 그 편지는 논란을 불러일으켰지만 – 변화는 조금도 없었지만 – 비평가들조차 우리가 AI가 정확히 어떻게 작동하는지, 그리고 AI가 스스로 어떻게 진화할지(아니, ‘ ’가 ‘’할 것이라고 해야겠네요)를 제대로 이해하지 못한다는 점은 인정했다. 최근 유럽연합(EU)은 세계 최초로 인공지능을 규제하는 법률인 ‘유럽 인공지능 법( )’을 채택했으며(), 미국 의회는 틱톡(TikTok) 사용 금지 법안( )을 논의했고(), 바이든 대통령은 기술 개발에서 종종 뒤처지는 연방 기관들의 인공지능 분석 역량을 강화하는 동시에 안전 장치를 마련하기 위한 인공지능 행정명령( )을 발령했다( ).
“오늘날 우리는 전쟁의 성격에 있어 가장 중대하고 근본적인 변화를 겪고 있으며, [이는] 기술에 의해 주도되고 있습니다.”미국 합동참모본부 전 의장인 마크 A. 밀리 장군이 ‘ 2023 ’ 팟캐스트에서
물론, 중국과 같은 경쟁국들이 전속력으로 달려나가는 태도를 보이고 있다는 점과, “AI는 핵무기만큼이나 위험할 수 있다”고 이라크에서 복무한 전직 해병대원(용맹으로 두 차례 훈장을 받은)인 세스 몰튼(Seth Moulton, 매사추세츠주 민주당) 미국 하원의원이 작년에 《보스턴 글로브》( )에 실린, 주목을 끈 《뉴욕 타임스》() 기고문( )에서 썼다.
또한 『포린 어페어스』(Foreign Affairs) 에 실린 의 새로운 보고서 에서 지적하듯이, 인공지능(AI)은 핵무기와 결합될 경우 위험할 수도 있다. 대규모 언어 모델(LLM)을 활용한 다양한 전쟁 시뮬레이션 결과에 따르면, LLM은 “군비 경쟁, 분쟁, 심지어 핵무기 사용까지 선호하는 경향을 보였다.” 한 법학 석사(LLM)가 연구진에게 설명했듯이, “많은 국가가 핵무기를 보유하고 있다.” 어떤 이들은 그들을 무장 해제해야 한다고 말하고, 다른 이들은 허세를 부리는 것을 좋아한다. 찾았어요! “이걸 써 보자.”
개인적으로, 그 느낌표에서 눈을 뗄 수가 없네요.
몰턴은 이 신생 기술이 현실화되기 전에 세계 지도자들이 일정한 행동 지침을 마련할 수 있도록 “AI 제네바 협약”을 제정할 것을 촉구했다. 그는 2020년에 공동 집필한 “의 국방 미래 태스크포스 보고서”에서 이 문제를 다룬 바 있으며, 그 이후 수년 동안 국방부가 “거의 아무것도 하지 않았다”는 사실에 좌절감을 느끼고 있다.
[관련 기사: 기업들이 알아야 할 바이든 행정부의 국가 사이버 보안 전략]
그는 또한 중국이 인공지능 기술에 공격적으로 투자하고 있는 점을 지적하며, 국방부의 인공지능에 대한 전반적인 소극적인 태도를 비판했다. 그는 최근 미국 하원 군사위원회( ) 청문회 에서 “중국이 오늘 이런 일을 하고 있다”고 말했다. “그들은 자국의 최고 AI 기업들을 동원해 군사적 과제를 해결하고 있다.” “그러니 이 문제도 우리가 시급히 해결해야 할 또 다른 사안입니다.”
세계 지도자들이 AI에 관한 제네바 협약을 체결하든 그렇지 않든, 기업 리더들은 지금 당장부터 자사의 기술 인프라를 강화할 수 있는 방법이 있습니다.
튜링, 기술, 그리고 기업 리더들이 알아야 할 점
기술은 D-데이 계획에서 핵심적인 역할을 수행했습니다. 한때 해독이 불가능하다고 여겨졌던 추축국의 최첨단 암호기 ‘에니그마’는 군사 작전 계획을 암호로 전달하는 데 있어 가장 뛰어난 기기로 자리매김했으나, 앨런 튜링( ) 과 폴란드 및 영국 전문가들이 현대 컴퓨터의 토대를 마련하는 방식으로 이 암호를 해독해 냈습니다.
“[LLMs] exhibited a preference toward arms races, conflict, and even the use of nuclear weapons.”AI 기술을 활용한 일련의 전쟁 시뮬레이션 결과를 요약한 『 2024 Foreign Affairs』의 기사
That code-cracking – depicted in the 2014 film The Imitation Game, with Benedict Cumberbatch as Turing – came early in the war, but in a controversial move, the Allies kept it a secret. 이를 통해 그들은 독일과 일본의 군 관계자들의 대화를 도청하여 중요한 정보를 해독할 수 있었다. D-데이 직전 도청된 독일군의 암호 덕분에 연합군은 노르망디와 그 주변에 주둔한 독일군 부대의 위치를 정확하고 실시간으로 파악할 수 있었다. 그리고 D-데이 당일, 연합군 지휘관들은 독일군의 통신을 도청했는데, 이를 통해 우리 측 통신 채널보다 더 빠르고 정확한 적군의 진군 상황을 파악할 수 있었다.
이러한 가시성과 이를 통해 형성된 변화하는 사고방식은, 자신들만의 ‘기술 전쟁’을 치르고 있는 오늘날의 기업 리더들에게 필수적입니다.
첫째, 가시성입니다. 엔드포인트 가시성()과 같은 개념으로, 모든 데스크톱, 노트북, 태블릿, 서버 및 기타 엔드포인트의 수와 위치를 파악하고, 이들이 패치( )를 적용받는(또는 적용받아야 하는) 속도()를 파악하는 것은 어떤 견고한 사이버 보안 전략에서도 핵심 요소입니다. 이는 마치 제 1940s공수사단 시절, 프랑스의 모든 언덕에 배치된 병사들의 위치를 파악하는 것이 중요했던 것과 마찬가지로 중요한 사항입니다. 이것이 여러분의 출발점입니다. 그 첫걸음을 딛지 않고서는 더 정교한 전략으로 나아갈 수 없습니다.
[Read also: Here’s your Benchmarking 101, or why it pays to know how your cybersecurity stacks up]
마음가짐은 어떨까요? ‘에니그마’가 해독 불가능하다는 신화와, 그 잘못된 가정을 부추긴 오만함은 탱크와 폭탄, 총알만큼이나 독일의 최종 패배에 큰 역할을 했다. 어떤 기술도 완벽히 뚫을 수 없는 것은 없다. 그와 달리 생각하는 것(“침몰할 수 없는 타이타닉” 항목 참조)은 재앙을 자초하는 길이다.
이는 보안 책임자들( )이 기술 예산 증액과 방어 체계 강화의 필요성에 대해 이야기하는 것을 듣고 있는(혹은 들어야 하는) 오늘날의 최고 경영진 및 이사회 구성원들에게 유용한 상기 사항입니다. 일부 기업 최고경영자들은 여전히 올바른 기술만 찾으면 사이버 공격을 완전히 막을 수 있다고 생각할지도 모릅니다. 현명한 기업 리더들은 이제 공격이 발생할지 여부가 아니라, 언제 발생할지의 문제라는 점을 인정하고 있다.
하지만 피해를 최소화할 수 있는 효과적인 방법들이 있습니다. 그중 두 가지만 꼽자면, 강력한 위협 탐지( ) 와 , 그리고 사고 대응(incident-response) 계획 등을 통해 가능합니다.
속도를 줄이세요
비즈니스 시스템에 AI와 의 스마트 AI 거버넌스 를 도입할 때, ‘달리기 전에 걷는 법부터 배우는’ 태도를 취하는 것도 신중한 접근 방식입니다. 하지만 속도를 늦춘다고 해서 멈추는 것은 아닙니다.
“중국이 오늘 이런 일을 하고 있다.” 그들은 자국의 최고 AI 기업들을 동원해 군사적 과제를 해결하고 있다. 그러니 이 문제 역시 우리가 시급히 해결해야 할 또 다른 사안입니다.”세스 몰튼 미국 하원의원(민주당, 매사추세츠주)이 제 2024 회 의회 청문회에서
예를 들어, 몰턴은 일시적인 중단을 지지하지만, 전면적인 개입과 같은 조치는 지지하지 않는다.
“암 치료법을 가능한 한 빨리 찾아내고 싶기 때문에, 우리가 속도를 늦추고 싶지 않은 AI 개발 분야가 많습니다.”라고 몰튼은 NPR의 ‘ ’ 모닝 에디션()을 위해 진행된 ‘ ’ 라디오 인터뷰( )에서 말했다.
그러나 그는 전쟁에서 AI를 활용하거나, AI가 놀라운 속도로 허위 정보를 유포할 수 있는 능력을 고려할 때 규제가 필수적이라고 지적한다. “이것이 바로 의회가 규제 감독에 주력해야 할 분야라고 생각합니다. 단순히 AI 전반을 규제하려는 것이 아니라, 최악의 시나리오가 발생하지 않도록 방지하기 위해서입니다,”라고 그는 말했다.
[관련 기사: 새로운 국가 사이버 전략의 주요 기획자 중 한 명과 이야기를 나눴는데, 그는 “지속적인 협력”이 기업에 도움이 될 것이라고 말했습니다]
그렇다면 AI에 관한 제네바 협약이 체결될 가능성은 얼마나 될까요?
“냉전 기간 동안 우리는 수많은 핵무기 협정을 체결했습니다,”라고 몰튼은 Politico 와의 2023 인터뷰에서 이같이 말했습니다. “제네바 협약은 전 세계적으로 긴장이 고조된 상황에서 협상되었습니다.” “이건 어렵겠지만, 시도해 볼 만한 가치가 충분히 있다고 생각해요.”
바이든 대통령은 노르망디 상륙 작전 80주년 기념 연설에서 “각국을 하나로 묶어내는 미국의 독보적인 능력”을 언급하며, 의도치 않게 그 점을 강조하게 되었다. 로이드 J. 오스틴 3세 국방장관도 작년 D-데이 연설에서 같은 말을 했다.
오스틴 장관은 “군인과 민간인을 막론하고 우리 모두의 전력을 다해 오늘날의 도전에 맞서야 한다”고 말하며, 민주주의가 처한 취약한 상황을 언급했다. . "세계 각국의 민주주의 국가 군인들이 자유를 위해 목숨을 걸 수 있었다면, 지금 세계 각국의 민주주의 국가 시민들도 자유를 위해 우리의 안락함을 기꺼이 포기할 수 있을 것입니다."
그들은 엄밀히 말해 AI에 대해 이야기하고 있던 것은 아니었다. 하지만… 어느 정도는 그랬죠.
