한국은 AI 분야의 국제적 선도국으로 도약하기 위해 전력을 다하고 있으며, 경제 성장을 견인하기 위해 AI 프로젝트에 자금과 자원을 대거 투입하고, 독보적인 AI 지침을 마련하는 한편, 세계 무대에서 주목받는 성과를 거두고 있다.
지난달, 는 이재명 대통령의 ‘한국을 세계 3대 AI 강국으로 만들겠다’는 공약에 발맞춰, SK의 AI 정책을 총괄하는 최고 기구인 ‘국가 AI 전략위원회’ 를 출범시켰다. 지난주, 한국 지도자로서는 사상 최초로 이 총리가 유엔 안전보장이사회에서 ‘인공지능과 국제 평화 및 안보’를 주제로 한 고위급 ‘ ’ 토론회 를 주재했다. 그리고 이번 달, 이 씨는 아시아태평양경제협력체(APEC) 연례 회의 의장을 맡아 다시 한번 인공지능(AI)에 초점을 맞출 예정이다.
이 씨는 뉴욕에서 열린 유엔 안전보장이사회(UNSC) 회의에서 “빛과 그림자가 공존하는 AI 시대의 변화를 기회로 전환하기 위해서는 국제사회가 단결하여 ‘AI의 책임 있는 사용’이라는 원칙을 지켜나가는 것이 필수적”이라고 말했다.
이러한 책임 있는 사용의 원칙, 특히 안전과 신뢰를 강조하는 의 내용은 올해 초 통과되어 내년 1월부터 시행될 예정인 한국의 새로운 인공지능 기본법 전반에 걸쳐 반영되어 있다. 이는 포괄적인 AI 법률 체계로, 전 세계에서 이전에 제정된 규정들, 특히 EU의 보다 규범적인 ‘AI 법’( 2024년 제정)과 일본의 보다 유연한 접근 방식을 취하며 장려에 중점을 둔 법률(6월 시행)과는 몇 가지 핵심적인 측면에서 차이가 있습니다. 전문가들이 ‘인공지능 기본법’의 장단점을 평가하고 있는 가운데, 일부에서는 이 법안의 유연성 덕분에 다른 국가들의 모범 사례가 될 수 있을 것이라고 보고 있다.
균형 잡기—한국의 새로운 AI 법에 대한 입문서
적용 범위가 광범위한 ‘인공지능 기본법’은 한국 내에서 사용되는 인공지능 서비스나 제품을 제공하는 한국 내외의 모든 조직에 적용됩니다. 이는 AI 혁신과 인권, 안전 및 기타 우려 사항 간의 균형을 도모함으로써, 건전한 AI 사회를 구현하기 위한 법적, 제도적, 문화적 조치 등의 분야를 포괄합니다.
“국제사회가 단결하여 ‘AI의 책임 있는 사용’이라는 원칙을 지켜나가는 것이 필수적입니다.”이재명 한국 대통령
이 프로그램의 목적은 AI 기술의 발전을 촉진하고 대중의 신뢰를 구축하는 데 있습니다. 비영리 정책 연구 기관인 전략국제문제연구소(CSIS)가 발표한 ‘ ’ 평가 보고서( )에 따르면, “이 보고서는 AI 개발에 대한 국가 차원의 정책, 산업 성장 지원, 데이터 센터 이니셔티브, 윤리 원칙, 투명성과 안전성 확보를 위한 의무, 그리고 고위험 및 생성형 AI 시스템에 대한 규제 등을 다루고 있다.” 그것만으로도 충분히 큰 요구인 데다, 이 기술은 AI 시스템의 전반적인 안전성을 보장하기 위해 ‘ ’ 위험 관리 시스템( )을 도입하고자 하며, 네트워크 내 사용자(), 기기(), 웹사이트의 진위 여부를 검증하기 위한 인증 기반 신뢰 메커니즘을 채택하고 있습니다.
이 법안의 통과에 앞서 AI 거버넌스와 관련하여 다음과 같은 여러 단계가 진행되었습니다:
- 2024년 3월에서 한국은 안전하고, 보안이 보장되며, 신뢰할 수 있는 인공지능에 관한 유엔 결의안을 채택했습니다. 이 결의안은 인공지능의 활용을 인류의 공동 이익을 위해 이끄는 것을 목표로 하고 있다.
- 2024년 5월에서 각국은 ‘안전하고 혁신적이며 포용적인 AI를 위한 서울 선언’( )을 발표했는데, 이는 AI가 가져오는 기회와 위험에 대한 공통된 인식을 확인하는 내용으로, 10 개국과 유럽연합()이 서명했다().
- 최근 ‘인공지능 보안법( 2025년 3월)’에 따라, 한국은 ‘국가 인공지능 보안 자문단( )’이라는 새로운 부처 간 기구를 신설했다.
[관련 기사: AI 도입 경쟁이 한창인가? [보안은 건전한 거버넌스에서 시작된다]
비록 아직 진행 중인 작업이긴 하지만, 이러한 조치들은 보안 및 데이터 개인정보 보호 위험과 같은 AI 관련 과제를 해결하는 데 있어 한국을 전 세계적으로 선도적인 위치에 올려놓았다. 그리고 이는 실로 큰 도전 과제들입니다.
워싱턴 D.C.의 싱크탱크인 스팀슨 센터(Stimson Center)의 선임 연구원이자 한국 프로그램 책임자인 제니 타운은 “인공지능(AI)이 사이버 보안뿐만 아니라 물리적 안보와 사회적 결속에도 직접적인 영향을 미칠 수 있다는 점이 점차 널리 인식되고 있는 것이 중요하다”고 말했다. “다양한 문제에 걸쳐 당면한 과제를 규명하고 관련 법률, 규정 및 기준을 마련하기 위한 국가적 및 다국적 차원의 노력이 이루어지고 있다는 사실은 고무적이며, 이러한 노력은 지속되어야 한다.”
한국의 AI 법안이 책임 있는 사용을 어떻게 장려하는가
한국의 ‘인공지능 기본법’이 명시한 목표는 인공지능 기술의 안전성과 신뢰성을 증진하고, 국민의 삶의 질을 향상시키는 것이다. 조지타운 대학교 월시 외교대학(Walsh School of Foreign Service) 산하 정책 연구 기관인 보안 및 신기술 센터(Center for Security and Emerging Technology)가 제공한 ‘인공지능 책임성 및 투명성 원칙( )’ 번역본( )에 따르면, “기술적으로나 합리적으로 가능한 범위 내에서, 최종 AI 결과를 도출하는 데 사용된 주요 기준과 원칙에 대해 영향을 받는 당사자들에게 명확하고 실질적인 설명을 제공해야 한다”고 명시되어 있다.
“[EU AI 법안의] 매우 상세하고 광범위한 적용 범위로 인해 개별 국가들이 이를 채택하거나 적용하기 어렵다.”이앤코(Lee & Ko)의 수석 파트너 박광배
또한 이 법은 AI와 관련된 위험으로부터 국민의 생명, 신체적 안녕 및 재산을 보호하고, AI 사회에 대한 신뢰의 기반을 유지하기 위한 임무를 수행할 ‘AI 안전 연구소’를 설립했다. 이 연구소는 안전 관련 위험을 규명하고 분석하는 것은 물론, AI 안전 평가 기준 및 방법, AI 안전 기술 및 표준화에 대한 연구를 수행할 계획이다.
“이 법안의 두드러진 특징 중 하나는 책임 있는 AI 개발을 촉진하기 위해 공공 조달을 활용한다는 점입니다.”라고 ‘프라이버시의 미래 포럼(Future of Privacy Forum)’의 아시아·태평양 정책 담당자 사크시 시브하레(Sakshi Shivhare)는 말합니다. 이 비영리 단체는 에서 볼 수 있듯이, 개인정보 보호와 신기술의 윤리적 사용을 보장하는 데 주력하고 있습니다..
시브하레는 이 법에 따라 AI를 활용하는 기업들은 영향이 큰 AI 시스템에 대해 영향 평가를 실시하여, 해당 시스템이 기본권에 미칠 수 있는 잠재적 영향을 평가하도록 권장된다고 말합니다. “비록 자발적인 조치이긴 하지만, 이 법안은 실질적인 인센티브를 제공합니다. 정부 기관들 은 조달 결정을 내릴 때 이러한 평가를 거친 AI 제품이나 서비스를 우선적으로 고려해야 합니다,”라고 그녀는 말합니다.
시브하레는 공공 조달이 혁신과 위험 완화를 조화시키기 위한 광범위한 조치의 한 예에 불과하다고 말한다.
[함께 읽어보기: NIST 준수란 무엇인가? 이는 규정 준수 여정을 시작하는 조직들에게 흔히 첫 번째 단계가 됩니다]
지난 1월 ‘인공지능 기본법’이 통과되면서, 한국은 EU에 이어 전 세계에서 두 번째로 인공지능에 관한 이처럼 포괄적인 규제법을 제정한 국가가 되었다. (일본은 이를 통과시킨 뒤 몇 달 후에 자체 법안을 제정할 것이다.) 이는 EU의 ‘인공지능법’ 이 유일한 실질적인 참고 기준이었음을 의미하지만, “이 법안이 매우 상세하고 적용 범위가 광범위하기 때문에 개별 국가들이 이를 채택하거나 적용하기 어렵다”고 서울 소재 로펌 이앤코(Lee & Ko)의 시니어 파트너이자 기술·미디어·통신 그룹을 이끌며 데이터 개인정보 보호 및 사이버 보안 실무 책임자로 활동 중인 박광배 변호사는 주장한다. 한국의 ‘인공지능 기본법’은 “미래의 기술 및 생태계 변화를 수용할 수 있을 만큼 충분한 유연성을 유지하면서도, 더 간결하고 효율적인 법적 틀을 제공한다.”
그는 이러한 유연성이 자체 AI 규제 체계를 마련 중인 다른 국가들에게도 호응을 얻을 것이며, ‘베이직(Basic)’에서 영감을 받은 어떤 청사진에서도 핵심 요소로 작용할 것이라고 보고 있다.
한국의 AI 법안은 아직 마련 중인 규제안이다
하지만 한국의 ‘인공지능 기본법’이 완벽한 것은 아니다. 박 씨는 “AI 기본법은 AI 산업 발전의 초기 단계에서 규제 개입을 최소화하겠다는 정부의 입장을 반영하기 위해 제정되었다”고 말했다. “그러나 규제의 적절한 범위와 강도에 관해서는 업계 이해관계자들과 시민사회의 견해 사이에 뚜렷한 차이가 있는 것으로 보인다.”
“한국의 모델은 EU의 엄격한 규제 체계와 일본의 장려적 입장 사이에 위치하며, 규제 감독과 혁신 지원 간의 균형을 맞추는 것을 목표로 한다.”사크시 시브하레, ‘프라이버시의 미래 포럼(Future of Privacy Forum)’ 아시아·태평양 지역 정책 담당자
박 씨는 시간이 지남에 따라 AI 생태계가 성숙해짐에 따라 규제 체계도 더욱 정교해질 것으로 전망한다고 말했다. “내년 1월 이 법이 발효되기 전까지 해결해야 할 주요 과제는 하위 규정 내에서 ‘고영향 AI 시스템’이라는 기초 개념의 범위를 정의하는 것이다… 이 법의 많은 핵심 요소들은 아직 구체적으로 명시되지 않았으며, 아직 발표되지 않은 향후 하위 법규에서 상세히 규정될 것으로 예상된다.”
시브하레는 “어떤 나라든 결국 자국의 상황에 맞는 방법이 무엇인지 가장 잘 알고 있다”고 말한다. “전 세계 각국의 사례에서 교훈을 얻을 수는 있겠지만, 이를 자국의 고유한 필요와 우선순위에 맞게 조정해야 한다”고 그녀는 말한다. “그렇긴 하지만, [AI 기본법]을 더욱 강화할 수 있는 부분이 있을 수 있다.”
[관련 기사: 호주가 ‘에센셜 에이트(Essential Eight)’를 통해 사이버 보안을 강화하려는 노력으로 인해 중소기업들이 규정 준수에 어려움을 겪고 있다]
시브하레는 예를 들어, 이 법안이 주요 운영 세부 사항에 대해 향후 대통령령에 크게 의존하고 있어 이해관계자들에게 명확성과 예측 가능성을 확보하는 데 지장을 주고 있다고 말합니다. “많은 AI 시스템이 의 중요 인프라 내에서 또는 이와 병행하여 운영되고 있다는 점을 감안할 때, 사이버 보안 에 관한 규정이 제한적이라는 점은 더 강력한 보호 조치 가 가치를 더할 수 있는 또 다른 분야입니다,”라고 그녀는 말합니다.
한국 vs. EU vs. 일본—각국의 AI 법안 비교
한국의 ‘인공지능 기본법’, 유럽연합(EU)의 ‘인공지능법’, 일본의 ‘인공지능 진흥법’은 모두 신뢰할 수 있는 인공지능을 장려하지만, 각기 다른 접근 방식을 취하고 있다.
“선구자가 되는 데는 장점이 있지만, 이는 또한 해당 정책들이 시간이 지남에 따라 지속적인 검토와 수정이 필요함을 의미합니다.”제니 타운, 스팀슨 센터 선임 연구원 겸 한국 프로그램 책임자
EU AI법은 매우 규범적이며 위험 기반의 체계로, 상세한 요구 사항과 특정 AI 사용에 대한 명시적인 금지 조항을 포함하고 있다. 한국은 위험도에 기반한 AI 규제와 명확한 기록 보관을 강조하는 측면에서 EU의 방식을 어느 정도 참고하고 있는 것으로 보인다. 이 접근 방식은 다층적이며 투명성에 중점을 두고 있으며, 영향력이 큰 AI 시스템에 대부분의 의무를 부과하는 한편, 많은 운영상의 세부 사항은 향후 제정될 규정에 맡기고 있다. 반면 일본은 AI 연구, 개발 및 활용을 장려하기 위한 광범위한 원칙을 제시하며, 명백히 촉진 중심의 접근 방식을 취해 왔다.
시브하레는 “전반적으로 한국의 모델은 EU의 엄격한 규제 체계와 일본의 적극적 지원 입장 사이에 위치하며, 규제 감독과 혁신 지원 간의 균형을 맞추는 것을 목표로 하고 있다”고 말했다.
[함께 읽어보세요: EU AI 법 준수 방법 — 위험 수준 파악부터 시작하세요]
EU의 AI법과 마찬가지로, 한국의 관련 법안도 국방 분야를 적용 대상에서 제외하고 있는데, 이는 국가 안보를 규율하는 별도의 규제 체계가 존재하기 때문인 것으로 보인다.
박 씨는 “집행과 관련해, 이 법은 보다 강력한 집행 메커니즘을 마련하지는 않은 채 규제 기관에 조사 권한만을 부여하고 있을 뿐이지만, 이는 기본 틀로서의 법 제정 취지에는 부합한다”고 말했다.
박 씨는 AI 개발이 아직 초기 단계인 점을 감안할 때, EU AI법과 같은 포괄적이고 엄격한 프레임워크는 많은 관할권에서 실용적이지 않을 수 있다고 덧붙였습니다. 그는 “간결한 문구와 최소한의 규제를 강조하면서도 유연성을 갖춘 ‘한국 인공지능 기본법’은 급속한 기술 발전에 발맞춘 인공지능 관련 법안을 마련하고자 하는 국가들에게 보다 실용적이고 유연한 참고 기준이 될 수 있을 것”이라고 말했다.
타운은 AI 개발에 대한 규제가 여전히 새로운 추세이며, 기술이 빠르게 발전하는 점을 고려할 때 본질적으로 점진적인 과정을 거치게 될 것이라고 말합니다. “한국은 이러한 추세의 선두에 서 있는 국가 중 하나입니다,”라고 그녀는 말한다. “선구자가 되는 데는 장점이 있지만, 동시에 그 정책들은 시간이 지남에 따라 끊임없이 검토하고 수정해야 한다는 것을 의미하기도 합니다.” “[그]의 경험은 다른 국가들이 자국의 필요와 선택지를 고려하는 데에도 도움이 될 것입니다.”
