지난주 인공지능(AI) 분야에서 쏟아져 나온 수많은 소식들 가운데, 조 바이든 대통령의 포괄적인 ‘ ’ 행정명령( )은 이 혁신적인 기술을 활용하기 위해 경쟁을 벌이고 있는 기업들에게 중요한 로드맵이 될 수도 있고, 혹은 걸림돌이 될 수도 있다.
런던에서 열린 사상 최초의 글로벌 ‘ ’ AI 안전 정상회의() 직전에 발표된 바이든 대통령의 행정명령은 AI 안전 및 보안 기준, 새로운 소비자 및 근로자 보호 조치, 그리고 업계와 연방 기관이 마련해야 할 편향 방지 안전장치를 명시하고 있다. 이를 AI의 이점을 활용하고 극대화하는 동시에 위험을 완화하기 위한 일련의 안전장치로 생각하면 된다. 이는 미국 내 AI 규제를 위한 대담한(비록 다소 늦은 감은 있지만) 한 걸음이다.
“이 행정 명령은 기업 경영진과 이사회 구성원들이 인공지능(AI)에 전적으로 투자하기 전에 속도를 늦추는 데 도움이 될 수 있습니다.”라고 IT 거버넌스에 중점을 둔 국제 전문 기관인 ISACA의 개인정보 보호 실무 책임자인 사피아 카지(Safia Kazi)는 말합니다. “기업들은 AI 사용과 관련된 위험에 대해 고민해야 할 것입니다.”
천천히 간다고 해서 멈춘다는 뜻은 아닙니다. 반대로, 이 행정명령은 연방 기관들의 AI 분석 역량을 강화하고자 하며, 대개 첨단 기술 발전 추이에 뒤처지는 정부 기관들에 박차를 가하고 있다. 예를 들어, 이 법안은 보건복지부에 1년 이내에 인공지능(AI)에 관한 “전략 계획”을 수립하도록 지시하고 있다. 그 ‘ ’가 실제로 열릴까요? 단정하기는 어렵지만, 정말 필요한 추진력입니다.
한편, 경쟁사보다 한 발 앞서 나가고자 하는 기업 리더들은 정반대의 문제에 직면해 있다. 많은 이들이 앞으로 닥칠 수 있는 급격한 전환점을 간과한 채, 눈 깜짝할 사이에 AI를 도입하고 있다.
ChatGPT( )가 불과 11 개월 전에 출시된 이후, 생성형 AI를 기반으로 한 다른 챗봇들이 잇달아 등장하며 소비자들 사이에서 열풍을 일으키고 업무 환경을 변화시켰습니다. 기업들이 신생 기술을 도입하기 위해 앞다퉈 나서는 가운데, 경영진들은 극심한 FOMO(기회를 놓칠까 봐 느끼는 두려움)에 사로잡히고 있다. 폴리티코(Politico)의 ‘ ’에 실린 새로운 보도( )에서 지적했듯이, 이는 특히 의료 분야와 같은 곳에서 더욱 우려스러운 문제입니다. 이 분야에서 의사들과 병원 관리자들은 검사 결과 해석, 질병 진단, 치료 제공에 사용되는 AI 기반 의료 기기를 서둘러 도입하고 있는데, 이러한 기기들은 정부가 일반적으로 해당 기기에 대해 요구하는 반복적인 테스트를 거치지 않은 상태이기 때문입니다.
보고서에 따르면, 이러한 제품을 개발하는 기업들이 자사 기기를 제어하는 알고리즘을 철저히 비밀로 하고 있기 때문에 AI 도입이 미칠 영향을 예측하기는 어렵다. 이러한 독점적인 ‘블랙박스’는 지적 재산을 보호해 주지만, 해당 도구를 활용하는 비즈니스 및 보안 담당자들은 그 도구가 실제로 얼마나 안전하거나 효과적인지(혹은 그렇지 않은지) 파악할 수 없게 만듭니다.
바로 이 점에서 바이든의 새로운 지침이 어느 정도 명확성을 제공해 줄 수 있을 것이다. 이 보고서는 우리가 새로운 AI 기술을 도입하고 이에 적응해 나가는 과정에서 우리 모두가 고려해야 할 수많은 잠재적 문제와 시급한 우려 사항들을 제시하고 있다.
당분간은 조직이 AI 혁명 속에서 책임감 있게 나아갈 수 있도록 취할 수 있는 다음 세 가지 단계에 집중할 것을 제안합니다.
1. 데이터 개인정보 보호를 중요하게 여기십시오
문제: 다른 국가들과 달리, 미국에는 데이터 프라이버시를 보호하는 포괄적인 국가 법률이缺如하고 있다.
행정명령의 내용: 바이든 대통령의 새로운 행정명령은 의회에 데이터 개인정보 보호 법안을 통과시키고 개인정보 보호 기술을 장려할 것을 촉구하고 있다.
“이 행정 명령은 기업 경영진과 이사회 구성원들이 AI에 전적으로 투자하기 전에 한 번 더 신중하게 고려하는 데 도움이 될 수 있습니다.”사피아 카지, ISACA 개인정보 보호 실무 책임자
카지(Kazi)는 ‘ ’ 포컬 포인트와의 단독 인터뷰에서 “AI 도구를 개발하고 활용할 때 개인정보 보호를 고려하는 것은 매우 중요하지만, 일부 기업들은 신기술에 대한 논의 과정에서 개인정보 보호를 소홀히 하고 있다”고 말했다. “개인정보 보호 관련 법규가 부재하기 때문에 기업들이 약탈적인 데이터 처리 관행을 일삼기 너무 쉬울 수 있다”고 그녀는 말한다.
비즈니스 및 보안 리더들이 지금 할 수 있는 일: 개인정보 보호 전문가들의 조언에 귀를 기울이세요. 정보 보안 및 데이터 개인정보 보호 분야에 능숙한 인력은 그 어느 때보다 중요합니다.
카지는 “경영진에게 개인정보 보호의 중요성을 전달하는 데 어려움을 겪는 개인정보 보호 전문가들은 이 행정명령을 활용해 데이터 개인정보 보호가 국가적(그리고 국제적) 우선 과제임을 보여줄 수 있다”고 말했다.
2. 해고하지 말고 채용하라 (적어도 당분간은)
문제: 여전히 뜨거운 논쟁거리인 일자리 대체 문제.
“최근 GPT4 자체 개발에 참여했던 한 공학 교수로부터 이야기를 들었습니다,”라고 퍼스트 아메리칸 파이낸셜(First American Financial)의 전 최고정보책임자(CIO)이자 세계 최대 기업들의 신뢰받는 AI 자문가인 래리 고덱(Larry Godec)이 회상했다. “그는 이것이 일자리를 대체하는 것이 아니라, 단순히 인간을 더 나은 존재로 만들 것이라고 주장했다.”
“향후 1~2년 내에, 인터넷이 등장한 이래로 볼 수 없었던 진정한 [AI] 혁명이 일어날 가능성이 높습니다.”래리 고덱, 신뢰받는 AI 자문가이자 퍼스트 아메리칸 파이낸셜의 전 최고정보책임자(CIO)
고덱은 이에 동의하지 않는다. 사이버 보안 및 비즈니스 혁신 분야의 선도 기업이자 본 잡지의 발행사인 타늄(Tanium)과의 ‘ ’ 단독 인터뷰( )에서 고덱은 AI 도입이 필연적으로 일자리 감소와 산업 구조의 변화를 초래할 것이라고 설명했다.
“앞으로 1~2년 안에, 인터넷이 등장한 이래로 한 번도 볼 수 없었던 진정한 혁명이 일어날 가능성이 높습니다.”라고 그는 말한다. “이 기술이 인터넷만큼이나, 아니 그보다 더 큰 규모로 성장할 것으로 예상된다.” “사람들은 일자리를 잃게 될 것이고, 아주 신속하게 다른 직업이나 진로 방향을 모색해야 할 것입니다.”
그 전환 과정이 얼마나 고통스러울지는 아직 미지수다. 한 가지 확실한 사실은, 인력 감축이 사이버 보안 에 위협이 될 뿐만 아니라 내부자 위험의 증가로 이어질 수 있다는 점입니다.
행정명령의 내용: 이 명령은 “AI로 인한 피해를 완화하고 이점을 극대화”하기 위한 모범 사례 집합을 마련하고, AI가 노동 시장에 미칠 것으로 예상되는 영향에 대한 보고서를 작성하며, 노동 시장 혼란에 직면한 근로자들을 정부가 지원할 수 있는 방안을 제시하는 것을 목표로 한다.
비즈니스 및 보안 리더들이 지금 취할 수 있는 조치: AI 경험이 있는 신규 보안 인력을 채용하는 데 주력하고(기존 인력에 대한 교육도 병행하여), 비용 효율적이고 정확하며 안전한 AI 전략을 구현할 수 있도록 하십시오.
지금은 보안 팀을 축소하거나 인원을 줄여서는 안 될 때입니다.
고덱은 “보유하고 있는 서로 다른 모든 데이터를 어떻게 처리할지, 그리고 이를 처리할 수 있는 [대규모 언어] 모델을 구축할 수 있을지 파악해야 할 것”이라고 설명한다. “이를 보완하기 위해 기업과 직원들은 모델을 가르치거나 지시하는 데 필요한 기술을 더 많이 습득해야 할 것입니다.”
[관련 기사: 신흥 AI 기술을 최대한 활용하는 비결은 이 기술이 결코 배우지 못할 것이 무엇인지 파악하는 데 있습니다. 바로 그 때문에 여전히 IT 전문가들이 필요한 것입니다]
3. AI 도구에 편향이 있는지 확인해 보세요.
문제는 다음과 같습니다. AI 도구의 성능은 훈련에 사용된 데이터의 질에 따라 결정되는데, 편향된 사고를 가진 사람들(즉, 우리 모두를 의미합니다)이 이러한 도구를 설계하고 데이터를 제공할 경우, 해당 도구는 의도치 않게 차별, 편견 및 기타 불평등을 재생산하고 심화시킬 것입니다.
행정명령의 주요 내용: 바이든 행정부의 ‘인공지능 권리장전( )’ 청사진 및 에 제시된 전략을 강화하고, 알고리즘 차별에 대응하도록 기관들에 지시한 이전 행정명령 을 바탕으로, 이번 새로운 행정명령은 연방 기관들이 교육 및 기술 지원을 제공하고, 인공지능 관련 민권 침해 사건을 기소함으로써 인공지능 편향 문제를 해결할 것을 요구하고 있다. (그들은 이미 그 마지막 부분에 대해 본격적으로 나서고 있다.) (아래를 참조하십시오.)
비즈니스 및 보안 리더들이 지금 당장 할 수 있는 일: AI 도구와 모델을 끊임없이 테스트하고, 또 테스트하고, 다시 테스트하십시오. 고덱은 “모든 코드가 반드시 거쳐야 하는 보안 프로토콜과 같은 사항에 대해서는 더 엄격한 기준이 분명히 필요할 것이며, [또한] AI에도 별도의 품질 관리 체계가 필요할 것”이라고 말했다.
AI의 결함을 제대로 이해하지도(그리고 검증하지도) 않은 채 성급하게 도입하는 기업 경영자들은 그 대가를 치르게 될 것이다. 연방 기관들은 기업들이 직접 개발하지 않은 AI 도구가 초래한 차별 및 기타 피해에 대해서도 책임을 질 수 있다고 분명히 밝혔습니다. 대표적인 사례로, iTutorGroup이 8월에 미국 평등고용기회위원회(EEOC)가 200 명 이상의 구직자를 대리하여 제기한 소송에 대해 을 통해 합의에 이르렀습니다. 해당 과외 컨소시엄은 잘못을 부인하면서도, 자사의 AI 기반 채용 선발 도구가 55 세 이상의 여성 지원자와 60세 이상의 남성 지원자를 자동으로 탈락시켰다는 혐의를 해결하기 위해 365.000 달러를 지불하기로 합의했다. 이는 위원회가 AI와 관련해 제기한 첫 번째 편향 소송이며, 이것이 마지막이 되지는 않을 것으로 보인다.
EEOC의 샬럿 A. 버로우스 위원장은 에 게시된 보도자료()에서 “고용주가 기술을 활용함으로써 차별을 당하는 근로자들은 EEOC가 구제 조치를 마련해 줄 것이라고 믿어도 좋다”고 말했다.
[관련 기사: 기술 업계가 틱톡에서 배울 점, 그리고 딜로이트의 윤리와 기술에 관한 최신 보고서에서 도출된 기타 주요 내용]
AI 교육을 이수한 IT 및 보안 담당자, 즉 AI 도구에 대한 다양한 테스트와 편향성 감사(올여름부터 뉴욕시 고용주들에게 ‘뉴욕시 공정 고용 및 주거법( )’ 에 따라 의무화된 사항)를 수행할 수 있는 인력을 확보하면, 조직은 와 같은 소송 및 대외적 이미지 손상 사태로부터 보호받을 수 있을 것입니다. 즉, AI 훈련을 받은 직원들에게 얼마를 지급하게 되든, 그 돈은 아깝지 않게 쓰이는 것입니다.
