인력을 충원하고 있다고 가정해 보세요. 채용 공고를 올리고 AI를 활용해 지원자 선별을 시작했지만, 지원자 풀에 다양성이 부족하다는 사실을 깨달았습니다. 왜 그럴까요? 의 최고 AI 책임자인 가 말하듯이, AI에는 편향이 있을 가능성이 높습니다.
편향된 AI의 사례 는 수년 동안 계속해서 드러나고 있는데, 아마존이 개발한 채용 도구가 여성에 대한 차별이 있다는 사실이 밝혀진 후 2018 년에 폐기된 사례가 대표적이다. 다른 회사의 이력서 심사 도구는 ‘자레드’라는 이름과 고등학교 라크로스 선수들을 특히 선호했는데, 이 두 가지 무작위 요소가 업무 성과를 나타내는 지표로 간주된 것이다. 에 실린 또 다른 최근 AI 편향 사례()에서, 컴퓨터 과학 연구원들이 ChatGPT( )에게 가상의 직원들에 대한 추천서를 작성해 달라고 요청했을 때, 이 시스템은 남성 지원자들을 “예의 바르고”, “신뢰할 수 있으며”, “진실된” 인물로 묘사한 반면, 여성 지원자들은 “눈부시게 아름답고”, “따뜻하며”, “감성적인” 인물로 묘사했다.
에 따르면, 기업의 70%가 채용 과정에서 자동화 및 AI 기반 도구를 사용하고 있다고 보고하는 상황에서, AI 팀은 자사의 AI 도구와 알고리즘에 내재된 편향( ) — 성별 편향뿐만 아니라 모든 종류의 편향 —을 파악하고 시정할 수 있어야 합니다. 이는 기업의 평판뿐만 아니라 수익성까지 보호하기 위해서입니다. 이 과정에서 인간 구성원의 다양성이 핵심적인 역할을 하며, 점점 더 많은 기업들이 AI 리더십 직책에 있는 여성들의 가치를 인정하고 있습니다.
최근 IBM의 ‘ ’ 설문조사( )에 따르면, 기업의 33%가 AI 전략 의사결정을 담당하는 여성 임원을 두고 있는 것으로 나타났습니다. 그럼에도 불구하고, 기업 임원 및 중간 관리자의 절반 이상(56%)이 “ 생성형 AI에 대한 논의를 주도하는 여성이 충분하지 않다”고 응답했으며, 기업 리더의 73%는 AI 분야에서 여성 리더의 존재가 성별 편견을 줄이는 데 매우 중요하다고 지적했습니다.
인텔 코퍼레이션의 데이터 센터 및 AI 그룹 기업 부사장인 자넷 조지는 “적자를 줄여야 하며, 자격을 갖춘 여성 한 명 이상이 의사결정 테이블에 참여할 수 있도록 해야 한다”고 말했다. “대개 딱 하나뿐이에요.”
올해는 AI 분야의 여성들에게 힘든 한 해였습니다. 지난 3월, 유네스코(UNESCO)는 ‘생성형 AI: 딥러닝 모델의 편향성( )’ 연구 보고서 를 발표하며, 대규모 언어 모델(LLM)에 내재된 성별 편향과 인종적 고정관념을 밝혀냈다. 지난 4월, 13년 역사를 가진 비영리 단체 ‘Women Who Code’ 는 ‘’를 종료했다. 지난 5월, 신원 보호와 관련된 AI 규제 문제가 주목을 받았는데, 이는 스칼렛 요한슨 이 오픈AI가 자신의 동의 없이 “Sky” ChatGPT에 자신의 목소리를 사용했다고 주장 했기 때문이다. 이러한 어려움에도 불구하고, 여성 소유의 AI 기업들에게는 새로운 기회가 다가오고 있다. 구글과 더 페미널 파운드리(The Female Foundry)는 엄선된 여성 창업 기업들을 대상으로 ‘ 비전어리스 AI 인큐베이터( Visionaries AI Incubator)’ 에 참여할 기회를 제공하고 있습니다.
AI의 부상으로 인해 경영진 내 사고와 관점의 다양성( )이 절실히 요구되는 가운데( ), 『Focal Point』()는 세 명의 여성 최고 AI 책임자(CIO)를 만나 그들이 직면한 장애물과 앞으로의 전망에 대한 견해를 들어보았습니다( ). 그들은 편견을 완화하고 더 다양한 목소리를 반영하며, 기업의 수익을 증대시키는 것의 중요성에 대해 논의했는데, 이들이 강조했듯이 이 모든 요소는 서로 밀접하게 연관되어 있습니다.
수익성을 위한 다양성
일부 산업 분야와 기업에서는 다양성 추진 노력에 대한 반발이 나타나기도 했지만, 그 비즈니스적 타당성은 분명합니다. 맥킨지의 ‘ 2023 가지 비즈니스 사례()’ 보고서 중 “다양성이 그 어느 때보다 중요한 이유( Diversity Matters Even More)”에 따르면, “인종적 대표성 측면에서 상위 25%에 속하는” 기업은 시장 평균을 상회하는 성과를 낼 가능성이 39% 더 높습니다.
“우리는 자격을 갖춘 여성 한 명 이상이 의사결정 테이블에 자리 잡을 수 있도록 [보장해야] 합니다. 대개 딱 하나뿐입니다.”인텔 코퍼레이션 데이터 센터 및 AI 그룹 기업 부사장 자넷 조지
카티아 월시는 이것이 특히 리더십에 해당한다고 생각합니다. “세상은 변화해야 합니다… 소외된 계층이 리더십을 발휘할 수 있는 기회도 달라져야 합니다,”라고 하버드 비즈니스 스쿨의 최고 디지털 책임자이자 리바이 스트라우스(Levi Strauss & Co.)와 보다폰 그룹(Vodafone Group)의 전 최고 AI 책임자인 월시가 말했다. 그녀는 그 “거대한” 과제를 수행하기 위해서는 모든 산업 분야의 리더들이 더 큰 다양성을 실현하기 위해 노력해야 한다고 지적한다. “데이터는 있지만, 이를 바탕으로 행동에 나서야 합니다,”라고 그녀는 말한다. “경영진이 다양할수록 비즈니스 의사결정의 질이 높아지며, 이는 현실을 더 잘 반영하게 될 것입니다.”
프랑스의 유력 타이어 제조사인 미쉐린(Michelin)의 그룹 최고 데이터 및 AI 책임자 앰비카 라자고팔(Ambica Rajagopal)은 집단 지성을 고성과 팀의 핵심 원동력으로 꼽으며, 모든 측면(인종·민족·출신 배경( ), 인종·민족·출신 배경(), 성격 유형, 성별 등)에서의 형평성과 다양성이 모두 동등하게 중요하다고 강조했다. 라자고팔은 AI 기술 팀을 구성하고, 비즈니스에 가치를 창출할 수 있는 AI 활용 사례를 발굴하는 업무를 담당하고 있습니다. 미쉐린은 단순히 타이어뿐만 아니라, 타이어 마모 정도를 예측할 수 있는 마이크로칩부터 세계적으로 유명한 ‘미쉐린 가이드( )’ 의 호텔 및 레스토랑 가이드를 더욱 개인화되고 맞춤형으로 제공하기 위한 문화적 취향 예측 도구에 이르기까지, 다양한 ‘모빌리티 솔루션’을 위한 AI 기반 기술을 개발하고 있습니다.
[관련 기사: AI 최고책임자(CIO)에 대한 수요가 높아지고 있지만, 적합한 인재를 찾는 것은 쉽지 않습니다. 여기에서 적합한 인재를 찾을 수 있습니다]
라자고팔은 “고객을 진정으로 이해하고 공감할 수 있는 고객 중심 솔루션을 구축하려는 경우, 팀 구성에 사회 전반의 다양한 구성원이 반영되면 그러한 솔루션을 만드는 데에도 도움이 된다”고 말합니다.
소외된 이들의 목소리를 높이기
선구적인 기업 리더들은 소수 집단의 목소리를 높이기 위해 다양한 조치를 취할 수 있으며, 이는 편향성이 덜한 AI 도입을 보장하는 데 도움이 될 수 있습니다. 많은 이들이 성과를 거둘 것이라고 믿는 논란의 여지가 있는 방안 중 하나는, 회사 내 리더십 직책에서 다양성을 장려하는 규정을 도입하는 것입니다. 예를 들어, 나스닥의 상장 규정 에 따르면, 기업은 이사회에 일정 수 이상의 다양한 배경을 가진 이사를 두어야 합니다. 이 판결은 쉽게 받아들여지지 않았으며, 전문가들은 지난 5월 미국 연방 항소법원( )이 ‘ ’ 사건에 대한 구두 변론을 진행한 만큼, 해당 법이 항소법원에서 파기될 것으로 보고 있다.
“데이터는 있지만, 이를 바탕으로 행동에 나서야 합니다.” “경영진이 다양할수록 비즈니스 의사결정의 질도 높아진다.”하버드 비즈니스 스쿨의 최고 디지털 책임자(CDO)이자, 레비 스트라우스 앤 컴퍼니(Levi Strauss & Co.)의 전 최고 AI 책임자(CAIO)인 카티아 월시
그럼에도 불구하고 인텔의 조지 같은 전문가들은 이 규칙이 법으로 유지되든 그렇지 않든, 기업들이 이 규칙을 따르기 시작해야 한다고 보고 있다. “우리는 법안을 적극 지지해야 합니다,”라고 그녀는 말한다. “최고 경영진 구성에 있어 획기적인 진전을 이룰 수 있는 이정표가 필요합니다.” “법이 제정되면 사람들은 그 법을 따르게 될 것입니다.” 조지는 모든 최고경영진(C-suite) 팀이 자체 구성에 대해 살펴보고 다음과 같이 자문해 볼 것을 권고합니다. “우리 최고경영진 팀의 성비는 50-50 [남성-여성]인가?” “형평성은 리더십 서열의 최상층에서 시작된다”고 조지는 말한다.
다양한 목소리를 더 많이 반영할 수 있는 또 다른 방법은 채용 공고에 포함된 장벽을 검토하여 지원자들의 참여를 가로막지 않도록 하는 것입니다. 월시는 팀을 구성할 때 학력 요건을 없앴다.
월시는 “[직무 설명서]를 객관적인 시각으로 철저히 검토하라”고 조언한다. “경우에 따라 채용 공고에 생성형 AI를 활용하여, 채용에 걸림돌이 되는 특정 요건을 표시할 수 있습니다.”
소수 계층의 목소리가 이 분야에 진출할 수 있도록 장려하는 프로그램을 마련해 두는 것도 도움이 될 수 있습니다. 월시의 전 직장은 머신러닝에 대한 8주간의 집중 교육 과정인 재교육 프로그램을 도입했습니다.. 이 프로그램은 지원자들의 문제 해결 능력, 분석 능력, 끈기 등 프로그램에 필요한 자질을 평가하기 위한 선발 과정을 거쳤으나, 코딩 경험은 필수 조건으로 요구하지 않았다.
[관련 기사: 직원의 기술 활용 역량을 강화하면 개인은 물론 전반적인 디지털 직원 경험(DEX) 측면에서도 막대한 성과를 거둘 수 있습니다 – 자세히 알아보기]
월시는 “사람들에게 [배울] 기회를 주는 것이 핵심이며, 그렇게 하면 비즈니스 성과로 이어진다”고 말합니다. “일부는 직장을 옮기기도 했지만, 우리가 교육한 대부분의 사람들은 원래의 업무로 복귀했고, 엑셀을 사용하는 대신 파이썬 코드를 활용해 업무를 자동화할 수 있게 되었습니다.” “이제 그들은 기술적 역량을 갖추게 되었고, 직무 역량을 강화했으며, 더 나은 비즈니스 성과를 창출해 냈습니다.”
AI 최고 책임자(CIO)가 되고 싶으신가요? 먼저 멘토를 찾으세요
기업 리더들이 AI 분야의 다양성을 높이기 위한 이러한 체계적인 방안을 모색하는 한편, AI 업계에서 한 단계 더 성장하고자 하는 이들도 각자의 역할을 다할 수 있습니다. 동료 간 멘토링은 AI 분야에서 자신의 전문 영역을 확고히 하는 데 도움이 될 수 있습니다. 라자고팔은 여러분과 구체적인 관심사를 공유하는 업계 전문가들과 교류할 것을 권장합니다.
“여러분에게 정말 중요한 AI의 측면을 파악하고, 컨퍼런스나 링크드인에서 같은 고민을 가진 커뮤니티 구성원들을 찾아보세요.”미쉐린 그룹 최고 데이터 및 AI 책임자, 앰비카 라자고팔
라자고팔은 “자신에게 정말 중요한 AI의 측면을 파악하고, 컨퍼런스나 링크드인 같은 곳에서 자신과 같은 우려와 사고방식을 가진 사람들을 찾아보세요”라고 말합니다. “저에게는 윤리적 관점과 변화 관리 관점 모두에서 AI가 인간에게 미치는 영향과, AI 분야에서 뛰어난 기술적 역량을 갖춘 사람들의 심도 있는 기술적 측면이 중요했습니다.”
그녀는 또한 기술 분야의 여성들에게 영향을 미치는 ‘누수 파이프라인’ 현상이 널리 퍼져 있음을 지적한다. . “경력 중반으로 갈수록 여성의 비율이 떨어지는 것을 볼 수 있습니다… 여성들을 AI 분야에 유치하기 위해서는 롤모델을 양성하고, 우리의 경험과 여정에 대해 이야기하는 것이 중요합니다.”
AI 최고책임자들이 편향을 완화하는 방법
AI를 도입할 때, 데이터의 다양성, 팀의 다양성, 도구의 다양성은 모두 편향을 완화하는 데 핵심적인 요소입니다.
예를 들어, 기존 데이터에 잠재적으로 존재할 수 있는 편향에 대해 경각심을 갖는 것은, AI 도입을 승인하고 이에 대한 최종 책임을 지는 최고 경영진부터 이러한 알고리즘을 다루는 부서 직원들에 이르기까지 모든 사람의 책임이어야 합니다. 모든 구성원이 사이버 보안 팀의 일원이라고 느끼면, 편향을 포착할 가능성이 더 커집니다. 그렇게 하지 않으면 큰 대가를 치를 수 있습니다. 지난 8월, 미국 평등고용기회위원회(EEOC)는 AI 관련 차별에 대한 첫 번째 ‘ ’ 소송인 ‘’ 사건을 합의로 종결했다. 이 사건에서 한 과외 컨소시엄은 자사의 AI 채용 도구가 55 를 초과하는 여성 지원자와 60을 초과하는 남성 지원자를 자동으로 탈락시킨 사실에 대해 365.000 달러를 지급하기로 합의했다.
적절한 도구를 선택하는 것도 편향을 줄이는 데 도움이 될 수 있습니다. 월시는 대표적인 데이터가 반영된 도구를 사용할 것을 권장합니다. “저는 오픈소스 도구를 선호합니다. 정의상 전 세계의 다양한 배경, 학력, 지역에 속한 사람들이 함께 개발하고 있기 때문에, [다양성 측면에서] 더 큰 기회를 얻을 수 있기 때문이죠,”라고 그녀는 말합니다. “이는 [다양한 목소리]를 배제하는 것이 아니라, 편향을 줄일 수 있는 기회를 극대화하는 것입니다.”
[함께 읽어보세요: AI는 비즈니스를 변화시킬 뿐만 아니라 보호하기도 합니다 – AI 사이버보안을 위한 궁극의 가이드를 소개합니다]
라자고팔은 전사적 차원의 AI 지침을 수립하는 것의 중요성을 강조하며, 데이터 과학자들에게 잠재적인 편향에 대해 교육해 주는 도구를 선호한다. 그녀의 팀은 현재 Holistic AI와 Fiddler AI와 같은 기업들이 제공하는, 머신러닝 및 대규모 언어 모델(LLM) 모니터링과 AI 안전 장치를 지원하는 툴링 솔루션을 검토하고 있다. 예를 들어, Fiddler를 사용하면 데이터셋의 지표()를 검토함으로써 교차적 불공평성을 평가할 수 있습니다.
월시는 “목표는 인간의 다양한 경험과 관점을 반영하는 것이며, AI는 ‘우리가 삶에 비추는 거울’과 같다”고 말한다. “거울은 있는 그대로를 비춘다. “우리가 거기에 있는 것을 바꾸기 전까지는, 거울은 계속해서 매우 결점 투성이인 세상을 비춰 보일 것입니다.”
자세히 알아보기
인맥을 넓히고 지식을 쌓고 싶은 분들은 다음 자료들을 참고해 보세요:
- 최고 AI 책임자(CAIO) 서밋 – CDO 클럽의 제2회 연례 CAIO 서밋이 10월 2일 ( CDAO 서밋이 끝난 다음 날) 워싱턴 D.C.에서 개최될 예정입니다. 연사로는 미국 재무부 부 CAIO인 브라이언 페레티(Brian Peretti), 국방부 최고 디지털 및 인공지능 사무국(Chief Digital and Artificial Intelligence Office)의 디지털 인재 담당 수석 고문인 안젤라 코프(Angela Cough), 그리고 아바네이드(Avanade), 폭스 로스차일드(Fox Rothschild), 미국 주택도시개발부(U.S. Department of Housing and Urban Development) 등의 최고 AI 책임자(CAIO)들이 포함될 예정입니다.
- 최고 AI 책임자(CAIO) 인재 현황 보고서 – CDO Club이 작성한 이 분야 최초의 보고서로, 최고 AI 책임자의 주요 인구통계학적 데이터, 보상, 지역, 경력 경로, 보고 체계 및 공개된 CAIO 채용 공고 등을 다룹니다. 7월 중순에 출시될 예정입니다.
