인슐린은 공짜가 아닙니다. 하지만 그런 주장을 담은 단 한 건의 트윗이 주주들에게 수십억 달러의 손실을 안겼을지도 모른다.
지난 11월, 일라이 릴리(Eli Lilly)의 트위터 계정을 사칭한 패러디 계정이 무료 인슐린 제공을 홍보하자, 이 흥미로운 가짜 소식이 순식간에 퍼져나갔고, 이로 인해 해당 제약사의 주가는 거의 5 %나 폭락했으며, 심지어 다른 인슐린 제조사인 노보 노르디스크(Novo Nordisk)와 사노피(Sanofi)의 주가 에도 타격을 입혔다.
이 트윗을 올린 사람은 기업의 탐욕 에 대해 지적하고, 당시 트위터가 도입한 ‘월 8 달러를 지불할 의사가 있는 사람이라면 누구에게나 파란색 ‘인증’ 체크 표시를 부여하는’ 새로운 제도가 초래할 수 있는 잠재적 결과에 대해 경고하기 위해 이 트윗을 올렸습니다. 하지만 그는 의도치 않게 또 다른 점을 지적하기도 했다. 바로 허위정보(실수나 부주의로 인해 나온 부정확한 주장)와 조작정보(고의적으로 퍼뜨린 거짓말)가 기업을 무너뜨리고 산업 전체에 영향을 미칠 수 있는 능력이 점점 더 커지고 있다는 점이다.
허위 정보가 급속히 확산되면 심각한 재정적·명예적 타격을 입힐 수 있으며, 많은 조직들이 이러한 새로운 현실에 어떻게 대처해야 할지 이제야 막 파악하기 시작하고 있다.
케임브리지 저지 경영대학원의 재무회계학 교수이자 재무보고 및 책임성 센터 소장인 앨런 자골린저는 “기업들은 자사의 평판이 순식간에 뒤바뀔 수 있다는 점을 인식해야 한다”고 말했다. "특히 지지층이 두터운 공격적인 행위자를 상대할 때 더욱 그렇습니다."
허위 정보와 허위 사실을 유포하는 주체는 기업의 주가를 조작하려는 공매도자일 수도 있고, 경쟁사의 제품에 대한 의구심을 심으려는 기업일 수도 있다. 이는 개인적인 원한을 갚으려는 개인일 수도 있고, 위기를 틈타 자신의 팔로워 수를 늘리려는 기회주의자일 수도 있으며, 혼란과 혼돈을 조장하려는 국가일 수도 있다.
허위 소문이나 AI로 생성된 딥페이크로 인해 브랜드 이미지가 훼손되고, 기업 경영진은 개인적 위험에 처할 수 있습니다. 최근 주목받은 피해 사례로는 테슬라(Tesla), 온라인 소매업체 웨이페어(Wayfair), 멕시코 시멘트 공급업체 세멕스(Cemex) 등이 있습니다.
그리고 어떤 기업도 예외는 아닙니다. 다국적 기업을 겨냥한 공격이 언론의 주목을 가장 많이 받는 반면, 허위 정보는 의 배관공 부터 의 성형외과 의사에 이르기까지 중소기업들에게도 영향을 미치고 있으며, 이는 종종 Yelp나 Google 리뷰와 같은 사이트에 올라오는 부정적인 ‘복수성’ 리뷰의 형태로 나타납니다. A 2022 study by the National Bureau of Economic Research found that fake negative reviews can cause small businesses to raise their prices by 12 percent to make up for lost sales.
허위정보(및 조작정보)를 손쉽게 퍼뜨리는 법
허위 정보 대응 플랫폼 ‘알레테아(Alethea)’의 CEO이자 설립자인 리사 카플란은, 기업을 대상으로 한 정보 공격을 감행하는 것이 피싱 을 시도하거나 컴퓨터 네트워크에 침입해 랜섬웨어를 심으려는 것보다 훨씬 쉽다고 강조한다.
“허위 정보 캠페인을 벌이기 위해 기술적 전문 지식이 반드시 필요한 것은 아니며, [그리고] 금전적 또는 이념적 동기를 가진 사람들이 점점 더 기업을 표적으로 삼고 있다.”리사 카플란, 알레테아 CEO 겸 설립자
"대형 은행 시스템에 성공적으로 접속하기 위해 필요한 것과 마찬가지로, 허위 정보 캠페인을 전개하는 데도 기술적 전문 지식이 반드시 필요한 것은 아닙니다,"라고 그녀는 말합니다. "국가 주체들은 대개 지정학적 국면이 닥쳤을 때 가장 효과적인 새로운 수단을 꺼내 쓰곤 하지만, 금전적 또는 이념적 동기를 가진 사람들은 점점 더 기업을 표적으로 삼고 있다."
알레테아의 AI 기반 ‘아르테미스’ 플랫폼은 정보 공격을 탐지하고 방어하기 위해 고안된 신흥 기술 솔루션 분야의 일환입니다. 이 시스템은 가상 분석가 역할을 수행하며, 인터넷과 소셜 미디어 전반에서 정보를 수집하고, 알려진 행위자와 흔히 나타나는 서사를 식별하며, 조직적인 공격 여부를 파악합니다. 이러한 플랫폼은 공격이 진행 중일 수 있다는 조기 경보 신호를 제공함으로써, 공격이 확산되기 전에 기업이 대응할 시간을 벌어줍니다.
[관련 기사: 이제 CAIO(최고 AI 책임자)가 논의에 참여할 때가 되었습니다 – 최고 경영진이 이사회에 AI 전문가를 영입하는 이유]
공격은 곧 있을 기업공개(IPO)와 같은 중요한 시점을 노려 이루어질 수 있다. 카플란은 잠재적으로 타격을 줄 수 있는 보도가 나오기 전에 선제적으로 대응하고, 이야기의 주도권을 잡는 것이 핵심이라고 말합니다. 이 회사는 고객 및 기타 이해관계자들에게 앞으로 유포될 허위 정보를 식별하는 방법을 미리 알려줄 수 있는데, 이를 “프리번킹(prebunking)”이라고 하는 기법이다. 연구 결과에 따르면, ‘프리번킹(prebunking)’은 허위 정보가 확산된 후에 이를 반박하는 ‘디번킹(debunking)’이나 사실 확인보다 더 효과적인 것으로 나타났습니다.
카플란은 “무언가 일어날 조짐을 미리 감지했다면, ‘다음은 정확한 정보입니다’라고 말함으로써 상황을 바꿀 수 있다”고 말한다. "이해관계자들에게 가장 먼저 다가갈 수 있으며, 때로는 가장 먼저 행동하는 것이 승리로 이어지기도 합니다."
딥페이크가 급증하고 있다
워싱턴 대학교 부교수이자 동 대학 ‘정보에 입각한 대중 센터(Center for an Informed Public)’ 소장인 제빈 웨스트(Jevin West)는, ‘ ’의 생성형 AI 덕분에 허위 정보가 훨씬 더 심각해질 것이라고 말했다.
”소문은 특히 딥페이크와 합성 미디어가 등장하면서 정말 빠르게 퍼집니다. 기업들이 아직 이 문제에 대해 우려하지 않고 있다면, 우려해야 마땅합니다.”제빈 웨스트, 워싱턴 대학교 ‘정보에 입각한 대중 센터’ 소장
웨스트는 “ 의 대규모 언어 모델 이 매우 빠르게 고품질의 메시지를 생성할 수 있는 능력 때문에, 기업들이 허위 소문에 대응하기가 훨씬 더 어려워지고 있다”고 말했다. "소문은 정말 빠르게 퍼지는데, 특히 딥페이크와 합성 미디어가 등장하면서 더욱 그렇습니다." "기업들이 아직 이 문제에 대해 우려하지 않고 있다면, 우려해야 할 것입니다."
AI가 생성한 허위 정보로 인한 피해는 연쇄적인 파급 효과를 일으킬 수 있다. 올해 초, 톰 행크스(Tom Hanks)의 ‘ ’ 딥페이크 영상 을 활용한 치과 보험 상품 온라인 광고가 등장했을 때, 이는 행크스의 명성을 훼손했을 뿐만 아니라, 유사한 상품을 판매하는 정식 보험사들과 이 오스카상 수상 배우가 실제로 협력하고 있을지도 모르는 기업들에게도 타격을 입혔다.
웨스트는 “이는 업계 전반에 걸쳐 대중의 신뢰도를 떨어뜨린다”고 말했다.
합성 미디어(AI로 생성된 가짜 영상)를 탐지할 수 있는 플랫폼을 제공하는 DeepMedia의 설립자이자 CEO인 리줄 굽타는, 딥페이크를 생성하는 기술이 불과 몇 년 만에 획기적으로 발전했다고 말했다.
“18개월 전만 해도 가짜 영상을 생성하려면 누군가의 실제 얼굴과 목소리를 10 분 동안 녹화해야 했을지도 모릅니다,”라고 그는 말한다. "이제 필요한 양이 훨씬 줄었습니다." "누군가의 얼굴과 목소리를 5분 정도만 녹음하면, 그 사람이 무슨 말이든 하게 만들 수 있는 애플리케이션이 공개될 것이라고 거의 장담할 수 있습니다."
DeepMedia의 DeepIdentify 플랫폼은 오디오 및 비디오를 리버스 엔지니어링하여, 해당 콘텐츠가 생성형 AI에 의해 제작되었는지 여부를 판별합니다. 이 회사는 미국 국방부 및 주요 소셜 미디어 플랫폼과 협력하여 합성 미디어를 식별하고 있으며, 올해 말 자사 플랫폼의 기업용 버전을 출시할 계획입니다.
굽타는 “포춘 500 대 기업 CEO의 딥페이크 영상이 틱톡에 게시되면, 당사의 AI 차단 솔루션이 이를 검색하여 가짜인지 여부를 판별할 것”이라고 말했다. "만약 AI 조작이라면, 해당 플랫폼 측에 연락하여 게시물을 삭제해 줄 것을 요청할 것입니다."
딥페이크 문제는 앞으로 훨씬 더 심각해질 것으로 보인다. 『 』의 저자이자 의, 『Deep Fakes: The Coming Infocalypse』 의 저자인 니나 쉬크(Nina Schick)는 2026년까지 인터넷 콘텐츠의 최대 90 %가 합성될 수 있을 것이라고 예측했다.
피할 수 없는 상황에 대비하기
전문가들은 조직이 제3자나 법 집행 기관이 나서서 허위 정보 문제를 대신 해결해 줄 것이라고 기대해서는 안 된다는 데 의견을 모으고 있다.
특히 카플란은 최근 주요 소셜 플랫폼에서 신뢰 및 안전 팀에 대한 인원 감축 이 이루어짐에 따라, 조직이 스스로의 평판을 관리하는 데 앞장서야 할 책임이 커졌다고 지적한다. "세간에서 어떤 이야기가 오가는지 조기에 파악하면 더 현명한 비즈니스 결정을 내릴 수 있다"고 그녀는 말한다.
물론 기술 부문이 (혹은 그래야만 하는) 모든 책임에서 완전히 자유롭다는 뜻은 아니다. 기술 기업들은 소비자의 신뢰를 구축하고 , 신뢰를 잃었을 때는 이를 다시 회복하기 위해 제 몫을 다해야 합니다. 신기술의 개발과 활용을 규율하는 윤리적 틀을 마련하는 것은 스타트업부터 거대 기업에 이르기까지 모든 기술 기업이 지금 당장 취해야 할 중요한 첫걸음입니다. 즉, 설계 단계 초기부터 투명성과 책임성을 설계에 반영해야 한다는 뜻입니다.
[관련 기사: 기술 업계가 틱톡에서 배울 점 – 신뢰가 전부다]
기술 분야 외의 사람들은 어떨까요? 야골린저는 플랫폼들의 책임을 묻기 위해 더 많은 조치가 필요하다고 촉구했다. 그는 대기업들이 EU의 ‘ 디지털 서비스법(Digital Services Act)’()과 같은 법안을 지지해야 하며, 기업 지도자들은 자신들의 우려 사항을 언론사에 직접 전달하는 데 있어 더 적극적으로 목소리를 내야 한다고 말합니다.
"만약 제가 대기업을 이끌고 있다면, 미디어 기업들을 향해 '자사 인프라를 통해 흐르는 정보를 제대로 관리하지 못한다면 우리 모두를 위험에 빠뜨리는 꼴'이라고 강력히 지적할 것"이라고 그는 말한다.
워싱턴 대학교(UW)의 웨스트는 “허위 정보는 조직이 무시하고 넘어갈 수 있는 문제가 아니다”라고 덧붙였다. 소셜 미디어 모니터링, 탐지 기술, 그리고 에 명시된 사고 대응 계획()을 통해 기업의 평판을 훼손하려는 공격을 면밀히 감시하기 위해서는 사이버 보안 팀, 법무 자문단, 미디어 관계 담당자 간의 협력이 필요합니다..
"이런 부분에 주의를 기울이는 팀에 투자해야 합니다,"라고 그는 말한다. "상황이 나아지기 전에 훨씬 더 나빠질 테니까요."
