지난 주말, 양자 물리학 의 전설인 J. 로버트 오펜하이머 를 다룬 블록버스터 전기 영화 《》 가 개봉한 오스카상 후보에 오른 크리스토퍼 놀란 감독은, 이른바 ‘붉은 버튼 딜레마’에서 영감을 받았다고 밝혔다. 이 3시간짜리 영화에서 상당한 분량을 차지하는, 그 고통스러운 몇 초 동안의 질문이다. 바로 커다란 빨간 버튼 위 몇 인치 높이에서 한 손이 떨리고 있는 그 순간, 그 버튼을 누르면 인류에게 위대함과 가능성을 가져다줄 수도 있고, 아니면— , 아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주아주
언론인가요? 아니면 보도하지 말아야 할까?
그건 수사적인 질문입니다. 당연히 누르시겠죠. 인류는 언제나 한계를 넘어서려 한다. ‘맨해튼 프로젝트’로 알려진 미국의 핵개발 프로그램을 이끌었던 오펜하이머와 그의 과학 동료들이 1945 회 트리니티 핵실험 당시 뉴멕시코 사막에서 말 그대로 엎드려 절을 했던 일부터, ‘’의 저자이자 빅테크 업계의 거물인 마이클 윌리엄스( )가 기술에 집착하는 대중에게 인공지능을 쏟아부은 최근의 ‘빅뱅’에 이르기까지 말이다.
이 영화를 본 후 많은 사람들이 AI에 대한 비유를 주제로 이야기를 나눌 텐데, 그럴 만한 이유가 충분합니다. 원자폭탄 투하와 인공지능(AI) 사이에는 뚜렷한 유사점이 있다. 놀란 감독은 을 통해 에 AI가 초래할 수 있는 “소름 끼치는” 가능성에 대해 경고한 바 있으며, 오늘날의 과학자들이 “오펜하이머의 순간”을 맞이하고 있다고 언급한 바 있다. 그는 “역사 속에서 답을 찾아가며, ‘의도하지 않은 결과를 초래할 수도 있는 신기술을 개발하는 과학자들에게는 어떤 책임이 있는가?’라고 묻고 있는” AI 연구자들을 만났다고 말했다.
이건 “누를까, 말까”라는 질문보다 훨씬 더 나은 질문입니다. 게다가 이 질문은 과학자들에게만 해당되는 것이 아닙니다. 오늘날 기업 리더, 최고 경영진, 보안 책임자, 정부 관계자, 심지어 일반 소비자들까지 모두 스스로에게 같은 질문을 던져야 합니다. 왜냐하면 우리가 직면해야 할 진정한 도덕적 딜레마와 실질적인 문제는 그 커다란 빨간 버튼을 누르는 것(혹은 누르지 않는 것)과는 아무런 관련이 없기 때문이다.
오펜하이머는 위험을 무릅쓰고라도 버튼을 누르는 데 전적으로 찬성했던 인물이었으며, 역사가들에 따르면 그는 그렇게 한 것을 후회하지 않았다고 한다. 아니요, 중요한 건 그 다음에 일어나는 일입니다. 그리고 여기, 오펜하이머라는 영화는 오늘날 일어나고 있는 일(혹은 일어나야 할 일)에 대해 우리에게 많은 것을 가르쳐 줄 수 있습니다.
오펜하이머의 “왜?” 순간
놀란의 영화는 서사적 규모가 거대하며, 우르릉거리는 사운드 디자인이 마치 오페라를 연상시킨다. 우리는 오펜하이머( , ‘피키 블라인더스’ 의 주연 배우 킬리언 머피가 연기)가 자신이 다루고 있는 힘에 대한 불안감에 짓눌려 고뇌에 찬 클로즈업 샷 속에서 고뇌하는 모습을 보게 된다. 화염 구름이 요동치고, 불꽃이 타닥타닥 튀며, 수많은 별들이 화면 위를 물결치듯 스쳐 지나간다. 이 영화는 카이 버드와 마틴 J. 셔윈이 집필한 퓰리처상 수상작인 《 》 2005 전기 『』( )와 『American Prometheus』()를 원작으로 하고 있다. 이 제목은 그리스 신들로부터 불을 훔쳐 인간에게 건넨 프로메테우스를 연상시키며, 놀란 감독은 불을 상징하는 이미지를 아낌없이 담아냈다.
“의도하지 않은 결과를 초래할 수 있는 신기술을 개발하는 과학자들의 책임은 무엇인가?”크리스토퍼 놀란, 영화 감독 겸 각본가
그런데도 이 영화에서 가장 강렬한 순간 중 하나는 가장 조용한 장면 중 하나다. 폭탄을 투하한 후, 오펜하이머는 맨해튼 프로젝트의 군 감독관(맷 데이먼 분)에게 지금 워싱턴으로 가야 할 필요가 있는지 묻는다.
“그를 바라보며 ‘왜?’라고 중얼거린다.” 데이먼은 최근 ‘ ’와의 인터뷰에서 이 사실을 회상했다. “그러다 문득 깨닫게 돼, ‘세상에, 저 사람들은 이제 그를 완전히 외면했구나.’ “이제 이 일은 현실이 되었고, 세상에 실제로 존재하며, 그는 이를 통제할 수 없다.” 데이먼은 그 장면이 이 영화에서 자신이 가장 좋아하는 순간 중 하나라고 인정했다.
실생활에서도 본질적으로 그런 일이 일어났습니다. 폭탄 덕분에 오펜하이머는 유명인이 되었지만(그는 , 《타임》 , , 《라이프》 등 여러 잡지의 표지를 장식했다), 정부 내부에서는 금세 존재감이 사라지고 말았다. 그는 핵 확산과 수소폭탄 개발에 반대하는 목소리를 내기 시작했다. 원자력위원회 위원장으로서 그는 핵무기와 핵 개발을 규제할 유엔과 같은 국제 기구의 설립을 주창했다. 정책 결정자들이 그 지혜를 깨닫거나(혹은 인정하기까지)는 수십 년이 걸릴 것이다.
[관련 기사: 이사회가 사이버 보안 거버넌스를 개선할 수 있는 5 가지 방법]
대신, 매카시주의적 음모론자들은 그를 스파이로 몰아세웠고, 이로 인해 1954호실에서 위선적인 정부 청문회가 열리게 되었는데, 놀란은 이 과정을 신경을 곤두서게 할 만큼 생생한 세부 묘사로 그려낸다. (스포일러는 없지만, 호기심이 끝이 없는 분들은 를 클릭해 보세요..) 한때 ‘원자폭탄의 아버지’로 칭송받았던 그는 1967세를 일기로, 다소 굴욕적인 역사적 주석으로 남으며 세상을 떠났다.
이제 제프리 힌턴의 차례입니다
오늘날로 넘어가 보면, 딥러닝의 선구자이자 ‘AI의 대부’로 불리는 제프리 힌턴은 인공 신경망의 사용을 주창했으며, 그의 연구는 생성형 AI와 ChatGPT와 같은 챗봇의 발전을 촉진하는 데 기여했습니다. 그러다 5월, 힌턴이 인공지능(AI)과 그 급속한 발전에 대한 우려를 더 자유롭게 이야기하기 위해 구글에서 물러난다는 소식이 헤드라인을 장식했다. 그는 여러 인터뷰에서 AI가 초지능이 될 수 있으며, 자신만의 목표를 세울 수 있고, 진실이 무엇인지 더 이상 알 수 없을 정도로 수많은 딥페이크를 만들어낼 수 있다고 말해왔다. 인류를 말살하는 건 어떨까? “ , inconceivable는 아니죠,”라고 그가 대답했다.
“기업은 대중의 신뢰를 얻고, 사용자가 충분한 정보를 바탕으로 결정을 내릴 수 있도록 돕는 의무가 있습니다.”조 바이든 대통령
그는 놀란이 말하듯이, 이른바 “오펜하이머의 순간”을 겪고 있었다. 수천 명의 다른 과학 및 기술 연구자들도 마찬가지입니다. 이들은 지난 3월 ‘ ’의 공개 서한( )에 서명하며, 정부와 기업 지도자들에게 통제되지 않은 AI 확산에 제동을 걸어줄 것을 간곡히 호소했습니다. 이들은 AI에 대해 아직 충분히 알지 못하는 상황에서 이를 이토록 광범위하게 보급하는 것은 옳지 않다고 깊이 우려하고 있습니다.
정말 들어주는 사람이 있긴 한 걸까? 일부 과학자들이 로봇이 세상을 장악할 것이라는 우려를 표명하고 있는데, 이는 마치 터미네이터 영화에서나 나올 법한 이야기처럼 들리기 때문에, 신뢰도를 높이는 데는 도움이 되지 않는다. 안타깝게도, (아마도) 발생 가능성이 낮은 시나리오를 포함해 모든 시나리오를 고려하고 조사해야 하며, 과학자들이 논의에 참여하지 않는 한 이를 효율적이고 효과적으로 수행할 수 없습니다.
일부 당국자들은 과학자들의 호소를 진지하게 받아들이고 있다. 사이버보안 및 인프라 보안국(CISA)의 제니 이스터리 국장은 기술 업계가 사실상 대중을 “충돌 테스트용 마네킹”으로 이용하고 있다며 이를 질타했다. 유럽연합(EU)은 지난 6월 ‘ ’ AI 법안( )을 통과시켰으며, 지난 금요일 바이든 대통령은 아마존, 앤트로픽, 구글, 인플렉션, 메타, 마이크로소프트, 오픈AI 등 주요 기술 기업 7곳의 최고경영자들과 만나, AI의 개발 및 대중 공개 방식을 규율하기 위한 새로운 규정(, )을 발표했다.
[관련 기사: 기업들이 알아야 할 바이든 행정부의 국가 사이버 보안 전략]
바이든 대통령은 이 협약을 설명하는 백악관 연설에서 “기업들은 국민의 신뢰를 얻고, 사용자들이 충분한 정보를 바탕으로 결정을 내릴 수 있도록 지원할 의무가 있다. 즉, 수정되거나 AI로 생성된 콘텐츠에 표시를 하고, 편견과 차별을 근절하며, 개인정보 보호 조치를 강화하고, 아동을 위험으로부터 보호해야 한다”고 말했다.
아쉽게도 이 합의는 구속력이 없으며 자발적인 것입니다. 하지만 시작은 시작이니까요.
바이든부터 바비까지, 오펜하이머와의 연관성
오펜하이머는 생전에 의 사일로 간 통합 을 촉구하며, 연구자와 정부가 중요한 정보를 공유할 수 있도록 했으며, 이러한 과정이 핵 산업과 그 안전성을 향상시킬 것이라고 믿었습니다. 이러한 구상들은 소련과의 군비 경쟁에서 승리할 수 있다고 믿었던 정부 지도자들에 의해 초기에 무산되었으며, 이들은 대신 핵무기 확산과 분야별 분할 전략을 선택했다.
”평소의 일상으로 돌아갈 수도 있고, 우주에 대한 진실을 알 수도 있습니다. 이제 선택은 여러분에게 달려 있습니다.”기묘한 바비
오늘날 비즈니스계에서도 비슷한 사고방식이 지배적입니다(누가 더 크고 더 뛰어난 챗봇을 만들 수 있을지 겨루는 경쟁을 보면 알 수 있습니다). 그렇기 때문에 이번 새로운 ‘오펜하이머의 순간’에서 교훈을 얻고, 과학자와 연구자들이 다시 논의의 장에 참여할 수 있도록 하는 것이 그 어느 때보다 중요합니다. 바이든 대통령은 이러한 방향으로 조치를 취해 왔는데, 자금을 지원하여 7개의 새로운 AI 연구소를 설립하고, 지난달 연구자들과 회동을 가졌다. 어쨌든, 이 기술이 실제로 어떻게 작동하는지, 그리고 어떤 잠재력을 지녔는지 가장 잘 이해할 수 있는 사람들은 바로 그들입니다. 오펜하이머가 우리에게 말하려 했던 것처럼, 모르는 것보다 아는 편이 낫다.
이상하게도, 지난 ‘바벤하이머’ 주말에 개봉해 더 큰 흥행 돌풍을 일으킨 《 》 바비 역시 비슷한 메시지를 전하고 있다.
[관련 기사: 넷플릭스에서 볼 만한 새로운 사이버 보안 교육 영상들이 오스카상은 못 받을지 몰라도, 여러분의 회사를 지켜줄 수는 있습니다]
‘스테레오타입 바비’(마고 로비가 연기한 매텔 인형)가 자신이 소중한 분홍색 거품 속에 갇혀 살아왔다는 사실을 깨닫자, ‘위어드 바비’(‘새터데이 나이트 라이브’ 출신 케이트 맥키넌)로 알려진 냉소적인 인형으로부터 요정 대모와 같은 과제를 받게 된다.
“평소대로의 삶으로 돌아갈 수도 있고,” 위어드 바비가 반짝이는 분홍색 펌프스를 들어 보이며 말합니다. “아니면 우주에 대한 진실을 알게 될 수도 있죠.” 그녀는 그 진실을 평평하고 재미없는 버켄스탁 신발로 표현합니다. “이제 선택은 여러분에게 달려 있습니다.”
“첫 번째는—하이힐이에요,” 바비가 반짝이는 환상적인 모습을 더 좋아하며 툭 내뱉었다.
냉소적인 요정 대모가 눈썹을 찌푸렸다. “ 에서 에 알리고 싶다는 뜻이야, 알겠지? “다시 해 봐.”
AI계의 대부(그리고 3시간짜리 전기 영화)가 우리에게 본질적으로 똑같은 말을 하고 있습니다. 바비는 이 딜레마에서 두 번째 기회를 얻었지만, 우리에게는 그런 행운이 따르지 않을지도 모릅니다.
