웨그맨스는 오랫동안 ‘고객 우선’ 브랜드로 명성을 쌓아왔으며, 깔끔한 매장, 세심한 서비스, 그리고 헌신에 가까운 수준의 고객 충성도로 잘 알려져 있습니다. 지난달, ‘ ’의 보도( )에 따르면, 이 회사가 도난 방지 조치의 일환으로 뉴욕시를 비롯한 일부 지역에서 쇼핑객의 생체 인식 데이터()를 은밀히 수집하고 저장하기 시작했다는 사실이 밝혀지면서, 이러한 평판이 시험대에 올랐다.
에 따르면, 웨그맨스(Wegmans)의 이 시스템은 과거에 절도를 저지른 것으로 추정되는 사람이 매장에 다시 들어올 경우 직원들에게 경고를 보내도록 설계되었다. 로체스터에 본사를 둔 이 체인점은 해당 데이터가 제3자와 공유되지 않으며, 오로지 보안 목적으로만 사용된다고 강조했습니다. (웨그맨스는 ‘ ’의 포컬 포인트가 요청한 논평에 답변하지 않았다.)
그럼에도 불구하고 대응은 신속했다. 소비자, 의원들, 그리고 ‘ ’의 개인정보 보호 옹호자들 은 얼굴 인식 기술과 동의 문제에 대해 우려를 표명했으며, 비교적 소수의 범인을 식별하기 위해 수많은 쇼핑객을 스캔하는 것이 소매점 절도 문제에 대한 비례적인 대응인지에 대해서도 의문을 제기했다.
문제는 웨그맨스만의 문제가 아니다. 다른 식료품 체인점(홀푸드 등), 소매업체(메이시스), 은행, 신용카드사, 의료 기업, 경기장 및 기타 기업들까지 생체 인식 시스템을 도입하는 데 박차를 가하고 있다. 현재 뉴욕주 의회에는 소매업체가 매장에서 생체 인식 기술을 사용할 때 “명확한 고지 및 개인정보 보호 조치”를 의무화하는 법안이 계류 중이다.
에서 웨그맨스(Wegmans)에 보낸 편지 를 작성한 뉴욕주 먼로 카운티 의원 레이첼 반하트(Rachel Barnhart)는 반발의 즉각성과 격렬함에 큰 충격을 받았다고 말했다. “‘그냥 식료품점에 가는 건데, 왜 내 얼굴을 스캔하는 거지?’라는 생각이 강하게 들었다.” 그녀가 말한다.
이러한 반발은 또한 해당 조치가 어떻게 이루어졌는지에 대한 것이기도 했다. 즉, 별다른 공개적인 설명 없이 조용히 진행되었을 뿐만 아니라, 사람들이 기업들이 인공지능(AI)를 어떻게 활용하는지에 대해 이미 깊은 회의감을 품고 있던 시점에 이루어졌기 때문이다. 특히 AI가 물리적 공간에서 작동할 때는 더욱 그러했다.
”명확한 기준이나 일관된 규정이 없으면, 조직들은 결국 자체적인 규칙을 만들게 됩니다. 그리고 바로 그 지점에서 위험이 스며들기 시작합니다.”타늄(Tanium)의 보안 및 제품 디자인 연구 담당 수석 이사, 멜리사 비쇼핑
이 사태를 지켜보고 있는 조직들에게 웨그맨스(Wegmans) 사건은 대외적으로 노출되는 AI의 위험성을 여실히 보여준다. 신뢰는 취약하며, 거버넌스상의 허점은 막대한 비용을 초래하고, 시스템이 이미 가동된 후에야 비로소 감시가 강화되는 경우가 많다고, 사이버 보안 솔루션 및 자율 IT 분야의 선도 기업이자(본 잡지의 발행사) 타늄(Tanium)의 보안 및 제품 디자인 연구 담당 수석 이사인 멜리사 비쇼핑(Melissa Bischoping)은 지적한다.
“명확한 기준이나 일관된 규정이 없으면, 조직들은 결국 자체적인 규칙을 만들게 된다”고 비쇼핑은 말한다. “바로 그 지점에서 위험이 스며들기 시작합니다.”
AI 거버넌스와 마찰이 큰 AI의 신뢰 상충 관계
기업들이 물리적 공간— 식료품점, 공항, 도시 거리 등—에서 사람들에게 직접적인 영향을 미치는 AI를 도입할 때, 이는 고객이 브랜드를 경험하는 방식을 새롭게 변화시키고 있습니다.
“문제가 발생하더라도 고객은 자신의 얼굴이나 음성 정보를 재설정할 수 없기 때문에, 회사는 종종 일시적인 문제에 대해 영구적인 책임을 지게 됩니다.”노스이스턴 대학교의 조교수이자 시민 AI 연구소 소장인 사이프 세이비지 박사
인간 중심 AI를 연구하는 노스이스턴 대학교의 사이프 세이비지 조교수는, 조직들이 감시 지향적 기술이 환대나 서비스에 대한 기대와 어떻게 충돌할 수 있는지를 종종 과소평가한다고 말한다. “단순히 운영 지표를 최적화하기 위해 고객과 브랜드 간의 관계를 어느 정도까지 바꾸고 싶은지 자문해 봐야 합니다,”라고 그녀는 말한다.
그녀는, 인식되는 이점이 ‘상점 내 절도 감소’와 같이 제한적인 반면, 인식되는 사생활 침해는 가게 문을 들어서는 모든 사람에게 영향을 미칠 때 그 긴장감이 특히 두드러진다고 말합니다. 웨그맨스 사건에서 비평가들은 회사가 생체 인식 데이터 수집이 왜 필요한지, 더 나아가 평판 손상을 감수할 만한 가치가 있는지조차 명확히 설명했는지 의문을 제기했다.
[함께 읽어보세요: 생체 인식 기술의 새로운 딜레마—이 기술이 우리를 안전하게 해줄까, 아니면 후회하게 만들까?]
노스이스턴 대학교의 시빅 AI 연구소를 이끌고 있는 새비지는 이 문제를 비례성의 문제로 규정한다. 오랫동안 지속되어 온 소매업계의 과제를 해결하기 위해 변경 불가능한 개인 식별 정보를 수집하는 것은 경영진으로 하여금 곤란한 절충안을 마주하게 만든다. “생체 정보는 변하지 않는 자산입니다,”라고 그녀는 말한다. “문제가 발생해도 고객은 자신의 얼굴이나 목소리를 재설정할 수 없기 때문에, 회사는 대개 일시적인 문제에 대해 영구적인 책임을 지게 된다.”
영구 데이터, 장기적 책임
사이버 보안 관점에서 볼 때, 생체 인식 데이터는 조직의 위험 프로필을 근본적으로 변화시킵니다. . 결제 카드 번호나 비밀번호와 달리, 생체 인식 식별 정보는 보안 침해 사고 발생 후에도 변경할 수 없습니다. 일단 노출되면, 계속 노출된 상태로 남습니다.
“원시 데이터에 접근해야 하는 사람은 극소수에 불과합니다.” 이를 볼 수 있는 사람이 적을수록, 만일 문제가 발생하더라도 피해 반경은 더 작아집니다.”비숍핑
생체 인식 데이터 역시 미국에서 복잡한 규제상의 회색 지대에 놓여 있다. 개인정보 보호 규정은 주마다 다르며, 생체정보의 처리 방식을 규정하는 포괄적인 연방 기준은 존재하지 않습니다. 여러 관할 구역에 걸쳐 사업을 운영하는 조직의 경우, 이러한 일관성 부족은 보안 위험을 고려하기 전부터 이미 규정 준수상의 문제를 야기합니다.
“기업들이 생체 인식 데이터를 어떻게 활용하고 있는지 설명하는 방식에는 상당한 재량 여지가 있다”고 비쇼핑은 말한다.
일이 잘못 풀리면 그 여유가 좁아지게 된다. 보안 침해가 발생할 경우, 그 여파는 당장의 금전적 손실을 넘어선다. 비쇼핑은 언뜻 보기에 익명화된 것처럼 보이는 생체 인식 데이터도 시간이 지나면서 유출된 다른 데이터 세트와 결합될 경우 위험해질 수 있다고 지적한다. “사람들이 어디서 쇼핑하고, 어디서 일하고, 어디서 사는지와 같은 행동 패턴이 보이기 시작합니다,”라고 그녀는 말하며, 이러한 노출이 스토킹이나 가정폭력의 위험에 처한 사람들에게 특히 해로울 수 있다고 지적했다. “브랜드 이미지 손상은 결코 과소평가되어서는 안 됩니다.” “고객들이 안전하다고 느끼지 못하면 더 이상 찾아오지 않을 것입니다.”
[관련 기사: 투자자와 소비자의 신뢰를 높이기 위한 브랜드 및 이사회를 위한 사이버 보안 reputation—7 가지 조치]
새비지는 경영진들에게 단기적인 수익에만 집중하기보다는 위험의 전체 수명 주기를 고려할 것을 촉구한다. “생체 인식 데이터가 유출될 경우, 50년 동안의 법적 책임을 감수하면서까지 5년 동안의 상점 도난을 줄이는 것이 과연 가치가 있을까요?” 그녀는 장기적인 노출이 단기적인 운영상의 이득보다 더 큰 부담이 되는 경우가 많다고 주장하며 이렇게 묻는다.
AI 도입 전의 AI 거버넌스—도입 후가 아니라
새비지는 웨그맨스 사건에서 얻은 가장 분명한 교훈 중 하나는 지배구조를 사후에나 고려할 문제가 아니라는 점이라고 말한다. 조직들은 종종 허용 가능한 사용 범위, 책임 소재, 또는 종료 기준을 완전히 정의하기도 전에 AI 시스템—특히 생체 인식 데이터가 포함된 시스템—을 도입하곤 한다.
“생체 인식 데이터가 일단 유출되면 되돌릴 수 있는 방법은 없습니다.”레이첼 반하트, 먼로 카운티(뉴욕주) 의원, 민주당-로체스터
새비지는 보안 조치가 단순히 데이터를 보호하는 데 그치는 것이 아니라고 강조한다. “이는 기술이 더 이상 작동해서는 안 되는 경계를 정의하는 문제입니다,”라고 그녀는 말하며, 오류율, 편향성, 오탐지에 대한 명확한 기준을 마련할 필요가 있음을 지적했다.
거버넌스는 인프라 및 의 접근 제어 영역까지 확대되어야 합니다.. 비쇼핑은 생체 인식 데이터가 운영상 유용하기 위해 반드시 광범위하게 이용 가능할 필요는 없다고 말한다. “원본 데이터에 접근해야 할 사람은 극소수에 불과합니다,”라고 그녀는 말한다. “이걸 볼 수 있는 사람이 적을수록, 만일 문제가 생기더라도 피해 반경이 더 작아진다.”
제3자 및 조각난 법안—AI 거버넌스의 뜻밖의 걸림돌
유지 정책 역시 매우 중요합니다. 비쇼핑은 “필요한 기간 동안” 데이터를 보관한다는 모호한 표현이 민감한 정보가 무기한으로 남아 있을 여지를 너무 많이 남긴다고 덧붙였습니다. “바로 그렇게 데이터는 잊혀지게 마련이며, 잊혀진 데이터는 향후 보안 침해 사고에서 보물창고가 됩니다.”
생체 인식 기술 사용과 관련된 개인정보 보호 및 규제 위험을 고려할 때, 전문가들은 모든 스마트 거버넌스 프레임워크에 강화된 ‘ ’ 규정 준수 관리도 포함되어야 한다고 조언합니다.. 개인 데이터에 대한 가시성이 높아지면, 엄격한 체계 하에서 관리되지 않을 경우 규정 준수 문제와 개인정보 보호 우려로 이어질 수 있으며, AI에 대한 대중의 거부감이 각 관할권의 입법자들에게 조치를 취하도록 압력을 가함에 따라 이러한 위험은 더욱 커질 수밖에 없고, 그 결과 법규가 제각각인 상황이 초래될 것입니다.
[함께 읽어보세요: 사이버 보안 프레임워크 — NIST부터 HIPAA, GDPR에 이르기까지 널리 사용되는 10 가지 규정 준수 표준에 대한 알기 쉬운 가이드]
제3자 공급업체는 또 다른 위험 요소를 초래합니다.. 생체 인식 데이터가 외부에서 처리되거나 저장되는 경우, 조직은 해당 데이터가 어디에 저장되어 있는지, 누가 접근할 수 있는지, 그리고 공급업체의 사업 상황이 변경될 경우 어떤 조치가 취해지는지를 파악해야 합니다. 비쇼핑은 신뢰가 이미 무너진 후에 대응하는 것보다, 거버넌스 체계가 이러한 시나리오를 미리 예측해 둔다면 훨씬 더 수월하게 대처할 수 있다고 말합니다.
비쇼핑은 “조직들은 오늘날 수집하는 모든 데이터가 예상보다 더 오랫동안 존재할 것이라고 가정해야 한다”고 말합니다.
“기업들은 이 기술을 시험해 볼 수는 있지만, 실패하더라도 그 결과를 직접 감당할 필요는 없다”고 반하트가 덧붙였다. “소비자들은 그렇습니다. “그리고 생체 인식 데이터가 일단 유출되면, 되돌릴 수 있는 방법은 없습니다.”
