최근 소셜 미디어 거물 틱톡에게는 상황이 그리 순탄치 않았다. 먼저, 의회 는 의 개인정보 처리 관행에 대해 강도 높은 질의를 쏟아부었다. Then the UK government fined it £12,7 million (about $15,8 million) for using children's personal data without parental consent. 의 목록( )에 따르면, 미국, EU, 캐나다, 뉴질랜드, 호주 등 직원들의 해당 앱 사용을 금지하는 정부 기관의 수가 계속 늘어나고 있다. 그리고 미국에서는 틱톡 금지 조치를 지지하는 사용자들( )이 반대하는 사용자들( )보다 2-to-1배 더 많습니다.
틱톡만 그런 것은 아니다. 기술 분야에 대한 감시가 사상 최고 수준에 달했다. 그리고 빅테크를 비난하는 것은 요즘 공화당과 민주당이 유일하게 의견을 같이할 수 있는 부분이라고 할 수 있다. 에이미 클로부차 상원의원(민주, 미네소타)은 NBC 뉴스에서 빅테크를 규제하기 위한 최근의 초당적 입법 노력을 논의하며 “이제 ‘ 2023’을 시행할 때다”라고 말했다. “이 법안들 중 하나를 드디어 통과시키기로 결의합시다.”
한마디로, 결국 신뢰의 문제입니다. 기술 기업들의 경우, 그 자원이 부족한 실정이다. 이를 되찾는 것이 이제 사명의 핵심이 되었습니다.
문제는 이렇다. 신뢰는 윤리적 인식이 전제되어야 하는데, 지난 12월에 발표된 딜로이트의 첫 번째 ‘ ’ 기술 분야 윤리 및 신뢰 현황 보고서에 따르면, 기술 기업이든 비기술 기업이든 대부분의 기업이 기술과 관련된 윤리적 체계가 부족하다고 한다.
이 조사는 기술( ), 금융 서비스(), , 의료(), , 정부() 등 8개 분야의 전문가 1.800 명을 대상으로, 자율주행차(), 양자 컴퓨팅, 증강 현실( ) 및 가상 현실()과 같은 신기술에 대한 윤리적 접근 방식을 조사했습니다. 조사 결과, 응답자의 87%가 소속 조직 내에서 신기술의 개발 및 사용을 규율하는 윤리 원칙이 부족하거나 이에 대해 알지 못하는 것으로 나타났다.
이 결과는 모든 기업에 해당되지만, 특히 어려운 경제 상황 속에서 더욱 엄격한 감시를 받고 있는 기술 기업들에게는 매우 중요한 의미를 지닙니다.
캐나다 온타리오주 겔프 대학교 컴퓨터과학부 부교수인 로지타 다라(Rozita Dara)는 “점점 더 치열해지는 경쟁 환경에서 신뢰야말로 새로운 화폐와 같다”고 말했다. "신뢰는 조직에 경쟁 우위를 가져다줍니다,"라고 그녀는 말합니다.
윤리적 틀을 마련할 때입니다
윤리적 격차는 다양한 형태로 나타납니다. 틱톡은 데이터 오용 의혹과, 비판자들이 사용자를 옭아매는 것으로 우려하는 앱의 중독성 있는 특징을 드러냈다. 하버드 대학교의 ‘ ’ 연구( )에 따르면, IBM과 마이크로소프트가 개발한 얼굴 인식 기술에서 인종적 편향이 드러났다. 또한 관측자들은 구글 번역(Google Translate) 과 아마존의 AI 기반 채용 시스템 (이 회사는 결국 이 시스템을 폐지했다)에서 성별 편향을 확인했다.
“신뢰는 조직에 경쟁 우위를 제공합니다.”로지타 다라, 겔프 대학교 컴퓨터과학부 부교수
기업에 대한 신뢰는 기술의 윤리적 사용에 대한 그 기업의 헌신에 달려 있습니다. 그리고 실제로 해당 기술을 개발하는 기업들에게는 그 중요성이 두 배나 더 큽니다.
네덜란드 엔스헤데에 위치한 트벤테 대학교 디지털 사회 연구소의 야세민 J. 에르덴 조교수는 “우리는 이 기술이 어떤 모습일지, 어떤 기능을 할지 대한 기대감을 형성해 놓았다”고 말했다. 사용자들에게 이 기술을 홍보하는 과정에서, 제조사나 공급업체가 그 기술이 갖는 함의를 충분히 파악하지 못할 위험이 있습니다. "이 모든 것이 사람들이 기술에 대해 갖는 신뢰에 영향을 미칩니다."
현재 우리는 인지(AI) 기술 분야에서 이러한 현상이 펼쳐지는 것을 목격하고 있습니다. 지난 3월, 엘론 머스크를 비롯한 1.100 명 이상의 컴퓨터 과학자 및 기타 기술계 저명 인사들이 ‘’의 공개 서한( )에 서명하며, 모든 연구소에 논란의 중심에 선 ChatGPT 서비스를 구동하는 연구 기업 오픈AI(OpenAI)의 대규모 언어 모델인 GPT-4보다 성능이 뛰어난 훈련 모델에 대한 연구를 중단할 것을 촉구했다.
[관련 기사: 맞습니다. ChatGPT는 해킹을 가속화할 것이지만, 동시에 해킹을 막는 데도 도움이 될 것입니다]
에르덴은 GPT의 최신 버전에 대한 구체적인 내용을 논의하는 데 불편함을 느끼는데, 이는 개발사들이 충분히 투명하게 정보를 공개하지 않았기 때문이다. "우리는 그것이 어떻게 그런 일을 하는지 정확히 알지 못합니다,"라고 그녀는 경고하며, 다른 AI 전문가들이 제기한 불만 을 되풀이했다. "그렇다면 이에 대해 제기되는 주장들을 과연 어떻게 제대로 평가할 수 있을까요?" (이 잘 알려지지 않은 챗봇인 ‘ ’가 사이버 위협 행위자들에 의해 을 빠르게 악용되어 악성코드 및 기타 위험한 콘텐츠를 생성했다는 사실 역시 상황을 더 악화시키고 있다.)
빅테크 기업의 모범 사례
기술 산업을 규율하는 기준과 정책이 도입될 것이며, 이는 의심의 여지가 없습니다. 그러나 이러한 규정이 시행되기 전까지는 기술 기업들이 자체적인 윤리 원칙을 마련하는 것이 매우 중요합니다. 이러한 원칙은 내부적으로(신뢰할 수 있는 신기술 개발을 이끌기 위해)뿐만 아니라 외부적으로(소비자의 신뢰를 얻기 위해)도 활용될 수 있습니다.
“[모질라는] 정말 투명합니다. 목표가 무엇인지, 한계가 무엇인지, 무엇을 하고 있는지, 무엇을 바꾸고 있는지에 대해 명확하게 밝히고 있습니다.”야세민 J. 에르덴, 트벤테 대학교 디지털 사회 연구소 조교수
딜로이트의 보고서는 유용한 입문 자료가 됩니다. 이 보고서는 기업 리더들이 실제로 업무를 수행하는 팀원들과 직접 만나볼 것을 권고하고 있다. 또한 대화를 시작하기 위해, 이 보고서는 기술 기업의 제품과 서비스의 ‘윤리적 건전성’을 진단하는 데 도움이 되는 7단계 프레임워크를 제시합니다. 딜로이트의 기술 신뢰 윤리 프레임워크에 따르면, 기술 기업이 도입하는 모든 신기술은 다음과 같아야 합니다:
- 투명성: 사용자는 해당 기술이 의사 결정에 어떻게 기여하는지 이해하고 이를 검토할 수 있어야 합니다.
- 안전 및 보안: 사용자는 피해로부터 보호받아야 하며, 사용자의 명시적인 동의 없이는 명시된 목적 및 의도된 용도를 벗어난 방식으로 사용자의 데이터가 사용되거나 저장되어서는 안 됩니다.
- 비공개: 이 기술은 사용자의 개인정보를 존중해야 합니다..
- 담당자: 기술은 지속 가능하고 인간 중심적이며, 공동의 사회적 이익을 도모해야 합니다.
- 견고하고 신뢰할 수 있는: 이 기술은 정확하고 일관된 결과를 도출해야 합니다.
- 책임 소재: 해당 기술의 사용에 대한 책임이 누구에게 있는지 명확해야 합니다.
- 공정하고 편파적이지 않아야 함: 이 기술은 모든 사람을 공정하게 대우할 수 있도록 설계되어야 합니다.
원칙을 정립하는 것은 이 과제의 한 부분에 불과합니다. 산타클라라 대학교 마르쿨라 응용윤리센터의 기술윤리 담당 이사인 브라이언 그린은 “다른 하나는 이를 실행에 옮기는 것”이라고 지적한다. "신제품을 개발할 때, 기업이라는 맥락에서 이런 일들을 실제로 어떻게 실현해 나가는 건가요?" 그가 묻는다.
마크쿨라 센터에는 엔지니어와 기술 설계자들이 이 과정을 해결하는 데 도움을 줄 수 있는 툴킷이 마련되어 있습니다. 조만간 기술 윤리 적용에 관한 지침서를 발간할 예정이다.
다라는 ‘설계 단계에서의 윤리 고려’를 기초적인 모범 사례로 꼽는다. 이는 사용자의 권리와 이익을 포함한 전체 생태계를 고려하여, 제품이나 서비스 개발 초기 단계부터 윤리적 가치를 내재화합니다. 마치 ‘ ’의 DevSecOps 팀에 “Eth”를 추가하는 것과 같습니다. 개발자는 도구의 기능을 테스트하고, 그 신뢰성과 적용 가능성을 평가할 때 윤리적 측면을 고려해야 합니다.
누가 제대로 하고 있을까?
딜로이트의 보고서가 지적하고 있듯이, 구체적인 윤리 원칙의 적용 방식은 기술에 따라 달라질 수 있다. AI는 양자 컴퓨팅( ), 블록체인() 또는 가상현실과 비교했을 때, 그 의미, 사용자층, 기술적 특성이 다릅니다.
윤리학자들은 각 기업의 개별적인 여건을 바탕으로 구체적인 사항을 면밀히 검토해야 하는데, 이로 인해 다음과 같은 의문이 제기된다. 이 새로운 윤리적 지형을 모색하고 있는 기업들 중에서 제대로 접근하고 있는 곳이 과연 있을까?
에르덴은 재단이자 기업인 캘리포니아 소재 소프트웨어 제조사 모질라를 후보로 지명했다.
"그들은 정말 투명해요. 목표가 무엇인지, 한계가 무엇인지, 무엇을 하고 있는지, 그리고 무엇을 바꾸고 있는지에 대해 명확하게 밝히고 있죠,"라고 그녀는 말합니다. "파이어폭스 같은 그들의 플랫폼과 그들의 포부에 대해 많은 존경심이 있는 것 같습니다."
에르덴은 모질라가 사용자 참여 증진에도 막대한 투자를 하고 있다고 언급했다. 이 회사는 ‘ ’ 선언문()을 통해 윤리적 기술에 대한 의지를 보여주었으며, ‘ ’ 책임 있는 컴퓨팅 챌린지(), 기술 산업 내 윤리적 문제를 해결하는 방법을 다룬 ‘ ’ 교육 자료( ), 그리고 최근 시작한 ‘’ 책임 있는 AI 챌린지()와 같은 다양한 이니셔티브를 전개해 왔습니다. 이것들은 빙산의 일각에 불과합니다.
[관련 기사: 윤리적 체계의 부재는 비즈니스 위험 요소입니다.] 다음은 그 밖의 세 가지 시급한 위험 요인과 이를 줄이는 방법입니다]
그린은 세계경제포럼(World Economic Forum)의 ‘비즈니스 윤리 및 책임( )’ 사례 연구 의 공동 저자로 참여하여 IBM의 윤리 관행을 다뤘으며, 이 분야에서 IBM을 선도 기업으로 꼽았다. 이 회사는 2018년에 AI 윤리 위원회를 설립하고, 신뢰와 투명성에 관한 자체 원칙을 발표했으며, 이를 ‘신뢰의 5대 기둥’으로 뒷받침하면서 개인정보 보호와 공정성 같은 가치를 옹호해 왔다. 또한 이 회사는 “적대적 견고성”, 즉 공격자들의 악용으로부터 AI를 방어하는 데 도움이 되도록 오픈소스 커뮤니티에 도구를 기증하기도 했다.
그는 세일즈포스(Salesforce)에 대해 유사한 ‘ ’ 분석 기사( )를 작성했는데, 세일즈포스는 2018 년에 ‘기술의 윤리적이고 인도적인 사용을 위한 사무국(Office of Ethical and Humane Use of Technology)’을 설립했으며, 마이크로소프트에 대한 또 다른 분석 기사도 작성했다.
물론 완벽한 기업은 없기에, 까다로운 윤리 분야의 많은 전문가들은 일률적인 승인을 내리는 것을 피하려고 한다.
에르덴은 “우리가 할 수 있는 일은 개별적인 관행, 개별적인 기술, 그리고 개별적인 단계를 평가하는 것뿐이다”라고 결론지었다. 이는 각 행위의 윤리적 타당성을 평가하는 반복적인 과정이며, 이론적으로는 기업들이 제품 하나하나, 새로운 기술 서비스 하나하나를 통해 끊임없이 개선을 도모하도록 장려해야 합니다. "그건 끝이 없어요."
