(업데이트: 유럽의회 의원들은 6월 14일에서 ‘인공지능법(Artificial Intelligence Act)’ 초안을 승인하는 데 표결을 통해 찬성했습니다.) (이 법안은 유럽연합 이사회 및 EU 회원국들과의 협상을 거쳐 올해 말까지 최종 승인될 것으로 예상된다.)
유럽의회는 오늘, 기술이 초래하는 위험 수준에 따라 인공지능(AI) 를 규제하기 위한 획기적인 법안을 논의하고 있다. 이 법안은 수요일 표결을 통해 통과될 것으로 예상되며, 이로써 ‘유럽 AI법’은 급변하는 이 분야를 규제하려는 서구 최초의 법률이 될 전망이다.
이에 앞서 중국은 지난 4월, 에서 인공지능(AI) 정책에 관한 규정 초안( )을 발표한 바 있다. 그리고 지난주, 영국 왕립공학아카데미( )는 전 세계 각국의 정부 지도자, 기술 기업 임원, 과학 연구자들이 한자리에 모일 첫 번째 AI 글로벌 정상회의에 대한 계획( )을 발표했습니다.
한편, 미국의 AI 규제 접근 방식은 분산된 양상을 보이고 있는데, 각 주에서는 자체적인 패치워크 AI 법안을 제정하고 있으며, 의회에서는 다양한 법안들이 서로 입지를 다투는 가운데, 연방 행정 기관 내 수많은 신규 사무소 및 태스크포스에서 제안된 안건과 예상되는 규정이 쏟아져 나오고 있다. 이러한 혼란스러운 상황은, 에 나열된 수많은 규정들과 마찬가지로 혼란스럽기 그지없습니다. AI 기술 도입과 관련해 선택지와 의무를 신중히 따져보려는 기업이라면 행운을 빌어야 할 것입니다. 게다가 우리 업무 속도도 늦추고 있습니다.
미국이 AI 거버넌스 분야에서 세계를 선도하고자 한다면, 이제는 뒤처진 상황에서 추격에 나서야 할 것이다. 지금으로서는 우리가 3위인 것 같습니다. 아마도 4등일지도 몰라.
미국이 AI 표준 개발에서 진전을 보이고는 있지만, 국가 차원의 포괄적인 전략이 부재한 탓에 우리는 뒤처진 상태에서 따라잡기에 급급하며, 독자적인 규칙을 정하기보다는 타국의 정책에 대응하는 데 그치고 있다.
브루킹스 연구소의 선임 연구원 조슈아 P. 멜처는 지난달 ‘ ’ 블로그 게시물( )에서 “보다 포괄적인 접근 방식이 부재한 탓에 미국은 전 세계적으로 AI 거버넌스를 어떻게 추진해 나갈지에 대한 모델을 제시하지 못하고 있으며, 대신 다른 국가들의 AI 규제 방식에 대응하는 데 그치는 경우가 많다”고 썼다.
다음은 AI 규제와 관련하여 선두 주자들의 현황을 간략히 정리한 것입니다.
EU의 AI 법안은 전적으로 위험의 비례성에 초점을 맞추고 있다
‘ ’ AI 법안( )은 AI 응용 분야를 네 가지 범주로 분류하고 있습니다: 위험이 거의 없거나 없는 경우, 제한적인 위험, 높은 위험, 그리고 용납할 수 없는 위험.
“이 기업들은 너무 오랫동안 규제 당국의 감시를 거의 피해 왔지만, 더 이상은 그럴 수 없습니다.”피터 웰치, 미국 상원의원
후자에 해당하는 모든 것은 EU에서 금지되며, 여기에는 다음을 사용하는 애플리케이션도 포함됩니다:
- 행동을 왜곡하기 위한 잠재적, 조작적 또는 기만적인 기법 . 유명인, 정치인, 괴롭힘을 당하는 아이들, 그리고 그 밖의 누구라도 (가짜이지만 너무나도 진짜처럼 보이는) 곤란한 상황에 처한 모습을 보여주는 딥페이크 동영상을 떠올려 보세요. 이 영상들은 곧 틱톡 채널에서 만나보실 수 있습니다.
- 범죄 행위를 예측한다고 주장하는 예측 기법 . 톰 크루즈 주연의 영화 《 》, 《Minority Report》, 《 》를 스트리밍으로 시청해 보세요. 이 영화들은 상황이 얼마나 잘못될 수 있는지에 대한 (가상적이지만 비현실적이지는 않은) 기초 지식을 제공해 줍니다.
- 감정 AI( )는 빠르게 성장하는 분야 로, 기계가 얼굴 표정과 목소리 톤의 미세한 세부 사항을 분석하여 인간의 감정을 더 잘 읽어낼 수 있게 해줍니다. (솔직히 말해 보세요—시리나 알렉사한테 한 번 이상 소리를 지른 적이 있을 거라고 생각해요.) (그들은 곧 귀를 기울이고 주의를 기울일 것입니다.)
- 무차별 스크래핑( )은 사용자의 동의 없이 페이스북 및 기타 소셜 미디어 플랫폼에서 이미지를 가져와 얼굴 인식 데이터베이스를 구축하거나 확장하는 방법입니다. (클리어뷰 AI는 이 분야를 선도하는 기업으로, 지난 4월 BBC와의 인터뷰에서 수십억 장의 소셜 미디어 사진을 수집해 경찰서에 판매했다고 시인했다.)
[관련 기사: 기술 업계가 틱톡에서 배울 점—신뢰가 전부다]
이 유럽 법안은 챗GPT( )도 겨냥하고 있다. 생성형 AI(마이크로소프트 산하 오픈AI와 그 ChatGPT, 또는 구글의 바드 등), 대규모 언어 모델(LLM), 기타 ‘기반 모델’을 개발하는 기업들은 제품을 대중에 공개하기 전에, 제품 개발 과정에 데이터 거버넌스 조치를 반영하고, 건강, 안전, 인권에 대한 위험을 평가 및 완화해야 할 것이다.
중국의 규정은 규범 준수를 강조한다
2017년 당시, 한 인기 메신저 앱의 사용자들이 사람과 봇 간의 대화 내용을 캡처해 온라인에 공유하자 두 개의 챗봇이 서비스에서 중단되었습니다. “나의 중국에서의 꿈은 미국에 가는 것”이라거나, (“공산당을 사랑하십니까?”라는 질문에 대한 답변으로) “아니요”와 같은 발언들 이는 정부 검열 당국의 마음을 딱히 달래주지 못했고, 중국 사이버공간관리국 관계자들은 이러한 당혹스러운 일이 다시는 일어나지 않도록 철저히 관리하고 있다.
“제호”중국 챗봇에게 공산당을 사랑하느냐고 물었을 때. (곧바로 검열당했다.)
이 기관이 발표한 새로운 ‘생성형 인공지능 서비스 관리를 위한 조치’ 에는 기업의 행동을 규율하는 20 개 조항이 명시되어 있으며, 여기에는 제공자가 생성형 AI의 출처가 합법적인지에 대한 책임을 져야 한다는 요구 사항(제7조), 생성된 콘텐츠에 대한 중독을 방지해야 한다는 내용 (제10조), 그리고 보호되지 않은 개인 식별 정보를 삭제해야 한다는 내용(제 11조) 등이 포함되어 있다. 가장 소름 끼치지만, 그리 놀랍지는 않은 점은 제 4’s 조가 모든 생성된 콘텐츠가 중국 공산당의 “핵심 가치”를 반영해야 한다고 요구하고 있다는 사실이다.
[관련 기사: AIOps가 IT 운영 분야에서 반드시 사람과 경쟁해야 하는 것은 아닙니다. 다음은 양자가 협력할 수 있는 방법입니다]
중국은 2017 년(그 유쾌한 챗봇들이 큰 화제를 모았던 시기)부터 이미 AI 기술 분야의 세계적 선도국으로 도약하기 위해 노력을 배가하기 시작했으며, 현재 에서 볼 수 있듯이 분야에서 확고한 선두를 차지한 것으로 보인다. (미국 국무부가 자금을 지원한) 최근 한 싱크탱크 연구에서 “놀라운 선두”라고 표현한 바와 같이, 중국이 44 개 핵심 및 신흥 기술 중 37 개 분야에서 앞서 있는 것으로 나타났다. 이러한 강경한 규제 입장이 AI 개발에 어떤 영향을 미칠지는 아직 지켜봐야 할 일이다.
미국 규정에서는 강조하고 있는데—잠깐만! 어떤 규칙이요?
미국 내 규제 체계는 여전히 마련 중인 단계이며, 워싱턴 당국은 (적어도 현재로서는) 규정 준수에 있어 자발적인 접근 방식을 수용하고 있다. 공정하게 말하자면, 다음과 같은 여러 의원과 기관들이 이러한 상황을 바꾸기 위해 노력하고 있습니다:
- 백악관—지난해 발표된 “: AI 권리장전을 위한 청사진”은 사용자의 사생활과 안전을 보호하고 차별을 방지하기 위한 5가지 원칙을 제시하고 있다.
- NIST—미국 국립표준기술연구소(NIST)는 지난 1월 ‘ ’ AI 위험 관리 프레임워크( )를 발표했으며, 이와 함께 ‘’ 플레이북(), ‘ ’ 설명 자료(), ‘ ’ 로드맵(), ‘ ’ 상호 참조표(), 그리고 ‘ ’ 관점 설명 자료()를 공개했습니다. 그들은 철저함 그 자체라고 해도 과언이 아니다. 물론 모든 규칙과 지침은 순전히 자발적인 것입니다.
- 의회—의원들은 오픈AI의 샘 알트만 CEO를 의회로 소환해 증언을 듣게 한 것 외에도, 다양한 규제 방안을 제시하고 있다. 상원 원내대표 척 슈머(민주당, 뉴욕주) 는 지난 4월 ‘ ’ 캠페인을 시작했으며, 이는 업계 리더들을 동원해 관련 법안을 구체화하기 위한 노력의 일환으로, 이 법안은 기업들이 인공지능(AI) 기술을 공개하기 전에 독립적인 전문가의 검토를 받도록 의무화하는 내용을 포함하고 있다. 그리고 상원의원들은… 마이클 베넷(민주당, 콜로라도주)과 피터 웰치(민주당, 버몬트주) 는 지난달, 디지털 기술을 감독할 완전히 새로운 ‘연방 디지털 플랫폼 위원회’를 설립하기 위한 법안( )을 재상정했다.
[관련 기사: ChatGPT 청문회나 메타의 과징금은 잊어라—미국 공중보건국장이 빅테크 업계에 가장 큰 위협이 될 수도 있다]
웰치는 성명을 통해 “빅테크는 우리 사회의 모든 측면에 막대한 영향력을 행사하고 있다”고 말했다. “너무 오랫동안 이 기업들은 규제 당국의 감시를 거의 피해 왔지만, 더 이상은 그럴 수 없다.”
베넷은 “미국 국민을 대변하고, AI 도구와 디지털 플랫폼이 공익에 부합하도록 운영되도록 보장할 수 있는 전문 연방 기관이 필요하다”고 동의했다.
그것이야말로 어떤 나라든 자국민을 위해 바라는 전부입니다. 누가 먼저 도착할지 두고 보자.
