메인 콘텐츠로 건너뛰기
'최신 에이전트형 AI 개발 동향 및 업계 트렌드' 블로그 게시물의 대표 이미지
새로운 쟁점

최신 에이전트형 AI 개발 동향 및 업계 트렌드

기업 IT 및 사이버 보안 팀이 자율 에이전트를 관리, 배포하고 이에 대한 방어 체계를 구축하는 방식을 재편하고 있는 역량 변화, 프레임워크 변경 및 규제 동향에 대한 실무자 가이드.

제한된 수준의 인간 감독 하에서도 계획을 수립하고, 도구를 활용하며, 워크플로우의 일부를 완료할 수 있는 인공지능의 한 형태인 ‘에이전트형 AI 시스템’이, 거버넌스 관행이 이를 따라잡기 위해 고군분투하고 있음에도 불구하고, 기업 전반에서 실험 단계를 넘어 실제 운영 단계로 접어들고 있다.

에이전트가 수행할 수 있는 작업과 기업 제어 체계가 다루는 범위 사이의 격차가 점점 더 벌어지고 있다. 한때는 사람의 검토를 위해 권장 사항을 제시하던 에이전트들이 이제는 승인을 기다리지 않고 워크플로를 시작하고, 구성을 수정하며, 다른 에이전트에 컨텍스트를 전달합니다. IT 팀들은 이러한 기능을 기본 플랫폼 기능으로 점점 더 많이 도입하고 있는데, 이는 종종 거버넌스 정책이 이를 따라잡기도 전에 이루어지고 있다.

이 가이드에서는 IT 및 보안 실무자들이 현재의 거버넌스 현황을 평가하는 데 참고할 수 있는 구체적인 역량 변화, 프레임워크 변경 사항 및 규제 관련 주요 단계들을 다룹니다.

왜 자율형 AI가 기업 거버넌스가 따라잡을 수 없을 정도로 빠르게 진화하고 있는가

주체적 AI 란 인간의 개입을 최소화하면서 목표를 달성하기 위해 자율적으로 계획을 세우고, 결정을 내리며, 행동을 취할 수 있는 AI 시스템을 말합니다. 프롬프트에 반응하는 기존의 AI와 달리, 에이전트 기반 시스템은 복잡한 목표를 세분화하고, 외부 도구를 활용하며, 결과에 따라 접근 방식을 조정합니다.

오늘날 대부분의 프로덕션 배포 환경은 대규모 언어 모델(LLM)을 추론 핵심으로 삼고, 도구 사용, 메모리 관리, 오케스트레이션을 담당하는 추가 계층을 기반으로 구축됩니다.

이러한 아키텍처를 이해하는 것은 거버넌스 측면에서 중요합니다. 추론 계층, 도구 계층, 오케스트레이션 계층은 각각 서로 다른 위험 특성을 지니고 있기 때문입니다.

에이전트 거버넌스에서 그다지 많이 논의되지는 않지만 매우 중요한 요소 중 하나는, 에이전트가 실행 시점에 의존하는 데이터의 품질과 적시성입니다.

자율성이 높아짐에 따라, 의사결정이 더 이상 인간에 의해 단계별로 검토되지 않게 되는데, 이는 부정확하거나 오래된 데이터가 곧바로 잘못된 행동으로 이어질 수 있음을 의미합니다. 이러한 프레임워크는 일반적으로 권한 관리와 감사 가능성에 중점을 두지만, 데이터의 최신성과 완전성도 마찬가지로 중요한 통제 수단입니다.

행위 주체 시스템이 할 수 있는 일과 대부분의 기업 거버넌스 프레임워크가 고려하는 사항 사이의 격차가 빠르게 벌어지고 있다. 기업 내 AI 도입 속도가, 많은 거버넌스 프로그램 이 처리하도록 설계된 수준을 훨씬 뛰어넘는 속도로 가속화되고 있다.

맥킨지의 ‘ 2025년 11월 ’ 설문조사( )에 따르면, 응답자의 62%가 소속 조직이 적어도 AI 에이전트를 실험 단계에서 도입하고 있다고 답했으며, 23%는 이미 기업 내 어딘가에서 에이전트형 AI 시스템을 본격적으로 확대하고 있다고 답했다. 같은 설문조사에 따르면, 대다수의 조직이 여전히 시범 운영 단계에 머물러 있으며, 약 3분의 2에 가까운 조직이 아직 AI를 전사적으로 확대 적용하지 못하고 있는 것으로 나타났는데, 이는 거버넌스 프로그램이 역량 곡선보다 앞서기보다는 지속적으로 뒤처지는 이유를 설명해 준다. 그렇다고 해서 에이전트 사용이 보편화되었다는 뜻은 아니지만, 감독 기관들이 에이전트형 AI를 더 이상 미래에만 해당되는 문제로만 취급할 수는 없다는 뜻이다.

[AI 에이전트 유형별 차이점, 이러한 구분이 거버넌스 측면에서 중요한 이유, 그리고 에이전트의 복잡성을 조직의 감독 역량에 맞게 조정하는 방법을 알아보세요]

담당자가 사람의 승인 없이 조달 워크플로를 시작하거나, 구성을 수정하거나, 접근 권한 요청을 상급자에게 보고할 수 있게 되면 거버넌스 관련 문제도 달라집니다. 더 이상 누가 어떤 데이터에 접근할 수 있는지의 문제만은 아닙니다. 어떤 자율 프로세스가 어떤 비즈니스 조치를 어떤 조건 하에서 촉발할 수 있는지에 관한 것입니다.

이는 이전 세대의 AI 비서는 물론, 그 이전의 챗봇이나 대화형 인터페이스와도 의미 있는 차이를 보입니다. 이들 이전의 시스템들은 추천 사항을 제시하고 사용자의 지시를 기다리도록 설계되었기 때문입니다. 현재 세대는 행동으로 옮기며, 거버넌스 체계는 이러한 차이를 반영해야 합니다.

다음 섹션에서는 IT 및 보안 팀이 현재의 거버넌스 구조와 대조하여 평가할 수 있는 구체적인 기능 변경 사항, 프레임워크 업데이트 및 규제 관련 주요 일정을 다룹니다. 이 모든 사례에 공통적으로 나타나는 점은, 에이전트가 더 이상 비즈니스 프로세스의 주변부에서만 활동하지 않는다는 것입니다. 이들은 조달, 공급망 관리, 보안 운영 및 인프라 관리를 주도하는 핵심 워크플로우에 통합되어 있습니다.

모델 성능 업데이트와 자율성 확대가 IT 위험에 미치는 의미

지난 1년 동안 이루어진 몇 차례의 플랫폼 업데이트를 통해 에이전트가 사람의 개입 없이 수행할 수 있는 업무 범위가 확대되었습니다. 이러한 에이전트를 구동하는 기반 AI 모델들도 다단계 추론 능력이 더욱 향상되었는데, 이는 12개월 전만 해도 충분했던 동일한 거버넌스 경계만으로는 이제 에이전트가 취할 수 있는 행동의 범위를 더 이상 제한할 수 없게 되었음을 의미합니다. Anthropic, OpenAI 및 기타 다양한 스타트업들이 발표한 모델들은 특히 확장된 도구 활용 능력과 다단계 계획 수립 능력을 설계 목표로 명시적으로 강조해 왔으며, 이러한 능력들은 기업 환경에서의 배포 시 자율적 행동의 확대로 직접 이어집니다.

플랫폼 측면에서는 주요 공급업체들이 생산 환경 배포의 진입 장벽을 낮추고 있다. 마이크로소프트는 코파일럿 스튜디오(Copilot Studio)를, 작업을 독립적으로 처리하거나 비즈니스 프로세스를 관리할 수 있을 뿐만 아니라 다중 에이전트 오케스트레이션에 참여할 수 있는 에이전트를 포함해, 다양한 에이전트를 구축하고 관리하기 위한 플랫폼으로 포지셔닝하고 있습니다. SAP는 Joule Agents를 비즈니스 프로세스를 인식하는 에이전트로 정의하며, 이를 통해 대규모로 워크플로를 자동화하고 여러 부서 간에 걸쳐 복잡한 프로세스를 조정할 수 있다고 설명합니다. 이것이 거버넌스 측면에서 시사하는 바는 모든 ERP 워크플로가 이제 기본적으로 완전히 자율적으로 운영된다는 것이 아니라, 점점 더 많은 기업용 플랫폼에서 에이전트 기반의 작업 실행을 보다 쉽게 구성하고 운영할 수 있도록 지원하고 있다는 점입니다.

IT 팀의 경우, 에이전트 권한 범위는 이제 데이터 액세스 수준뿐만 아니라 워크플로 수준에서도 설정해야 합니다. 대부분의 IAM 구성 은 기본적으로 데이터 액세스 권한 범위로 제한되며, 최신 ID 플랫폼을 운영하는 환경에서도 워크플로우 시작이나 연쇄 작업 실행을 관리하는 정책이 명시적으로 정의되는 경우는 거의 없습니다.

또 다른 새로운 요구 사항으로는 에이전트 기반 워크플로의 전체 수명 주기에 걸친 종단간 거버넌스가 있습니다. 위험은 의사결정 단계에서만 발생하는 것이 아니라, 통찰력을 도출하는 과정, 권고 사항을 제시하는 방식, 그리고 조치를 실행하는 과정에서도 발생합니다. 도구별로 이러한 단계를 분리하는 시스템은 특정 결정이 어떻게 환경의 구체적인 변화로 이어졌는지 추적하기 어렵게 만들 수 있습니다.

데이터베이스와 연계된 모든 AI 기능에 있어 거버넌스 관련 질문은 항상 동일합니다. 즉, 자율적 의사결정의 기반이 되는 데이터가 얼마나 최신 상태인지, 그 경로에 어떤 캐싱 또는 복제 계층이 존재하는지, 그리고 그 지연 시간이 자동화되는 워크플로우에 있어 허용 가능한 수준인지 여부입니다. 이러한 질문들은 공급업체와 관계없이 모두 해당됩니다.

플랫폼 업데이트 전반에 걸쳐 나타나는 양상은 일관적입니다. 에이전트들은 (사람이 승인할 수 있도록 조치를 제안하는) 자문 역할에서 (정의된 매개변수 내에서 조치를 취하는) 실제 실행 역할로 전환되고 있다. 이러한 변화는 부분적으로 머신러닝 분야의 발전으로 인해, 에이전트가 관찰된 패턴을 바탕으로 일반화하는 능력이 향상되었기 때문이다. 이 모델들을 더욱 유용하게 만드는 바로 그 기능 때문에, 훈련 분포의 경계 영역에서는 모델의 동작을 예측하기가 더 어려워집니다.

역량 전환예시거버넌스 격차 발생
워크플로우 시작SAP 조달 담당자IAM 정책은 워크플로 권한이 아닌 데이터 액세스에 적용됩니다.
실시간 데이터 조회Oracle AI 데이터베이스정확하지 않을 수도 있는 데이터 최신성 가정에 기반한 에이전트의 의사결정
연쇄적인 행동다단계 정화제개별 행동은 기록하지만 의사결정 과정을 놓치는 감사 추적 기록

기업 차원의 시사점: 귀사의 IAM 정책이 데이터 접근 권한과 워크플로 시작 권한을 구분하고 있는지 검토하십시오. “승인된” 접근 범위 내에서 활동하는 에이전트라도 의도된 거버넌스 경계를 벗어난 비즈니스 조치를 유발할 수 있습니다. 또한 ERP, 클라우드, 엔드포인트 공급업체 등 플랫폼 제공업체에 문의하여 최근 업데이트에서 어떤 에이전트 기능이 기본적으로 활성화되었는지 확인해 볼 필요가 있습니다. 모든 기능 확장이 표준 변경 알림 채널을 통해 전달되는 것은 아니기 때문입니다.

모델의 기능이 확대됨에 따라, 다음으로 제기되는 질문은 실제 운영 환경에서 에이전트들이 서로 어떻게 협력할 것인가 하는 점입니다.

엔터프라이즈 배포에 영향을 미치는 에이전트 프레임워크 및 오케스트레이션 변경 사항

특화된 에이전트들이 협력하여 복잡한 워크플로의 다양한 측면을 처리하는 다중 에이전트 시스템이 연구 환경에서 실제 IT 운영 환경으로 확대되고 있다. 이것들은 단순한 작업 체인이 아닙니다. 여기에는 분기형 의사결정 로직, 조건부 에스컬레이션, 그리고 보안 운영, IT 서비스 관리, 비즈니스 애플리케이션 계층을 동시에 아우를 수 있는 시스템 간 컨텍스트 전달이 포함됩니다.

초기 기업 도입 사례 중 상당수는 탐지, 분석, 조치 단계 사이에 수동 점검 단계를 삽입했습니다. 현재 변화하고 있는 것은 자동화 그 자체의 존재가 아니라, 플랫폼이 팀들이 하나의 워크플로우 내에서 여러 전문 에이전트를 손쉽게 조정할 수 있도록 해준다는 점입니다. 문제를 감지한 에이전트는 이제 이전보다 적은 수준의 맞춤형 오케스트레이션만으로, 후속 분석이나 조치를 위해 발견된 내용을 다른 에이전트나 도구로 이관할 수 있습니다.

[에이전트형 AI가 보안 운영을 어떻게 변화시키고 있는지, 어디에서 실질적인 가치를 제공하는지, 그리고 팀이 통제력을 잃지 않고 이를 도입할 수 있도록 돕는 거버넌스 조치는 무엇인지 알아보세요]

이렇게 하면 잘못 구성된 에이전트의 폭발 반경이 변경됩니다. 오류는 더 이상 하나의 작업 경계에서 멈추지 않습니다. 정상적인 프로세스를 잘못 분류하는 탐지 에이전트는, 사람이 경고를 확인하기도 전에 의 수정 에이전트 를 작동시켜 운영 시스템을 격리시킬 수 있습니다.

많은 주요 클라우드 플랫폼들이 이미 협업형 다중 에이전트 워크플로우를 훨씬 더 쉽게 이용할 수 있도록 하고 있습니다. AWS는 에서 Amazon Bedrock의 다중 에이전트 협업 기능을 2025년 3월에 정식 출시했으며, 이어서 Amazon Bedrock AgentCore를 출시했습니다. Amazon Bedrock AgentCore는 프로덕션 에이전트를 배포하고 관리하기 위한 모듈식 엔터프라이즈급 플랫폼으로, 2025년 10월에서 정식 출시되었습니다.

각 제공업체를 통틀어 나타나는 추세는 일관적입니다. 즉, 프로덕션 환경에서의 다중 에이전트 배포에 필요한 인프라 오버헤드가 급속히 감소하고 있습니다. 이러한 기능을 배포하기가 점점 더 쉬워짐에 따라, 거버넌스 도구 역시 권한 위임 경로, 감독자 로직, 가시성 및 오류 처리 기능을 지속적으로 개선해 나가야 합니다.

에이전트 기반 시스템에서 인간의 감독 역할도 점점 더 세분화되고 있다. 조직들은 워크플로우 시작 단계에서 단순히 ‘승인’ 또는 ‘거부’로만 결정하는 방식보다는, 일련의 작업 과정 내에 통제 지점을 설정하는 방식을 점점 더 많이 채택하고 있다. 이를 통해 팀은 전체 워크플로우를 중단시키지 않고도 특정 단계를 검토, 검증 또는 재정의할 수 있어, 속도와 책임감을 적절히 조화시킬 수 있습니다.

LangGraph 및 AutoGen과 같은 오픈소스 오케스트레이션 도구를 포함하여 이러한 비동기적 인계 작업을 가능하게 하는 프레임워크들은 다중 에이전트 시스템 배포의 진입 장벽을 낮추고 있으며, 이는 IT 팀이 승인된 기업용 플랫폼 외부에서 구축된 에이전트 배포 사례를 마주칠 수 있음을 의미합니다. 거버넌스 정책은 공급업체가 관리하는 에이전트 시스템과 내부에서 구축한 에이전트 시스템을 모두 고려해야 합니다.

수직적 전문화도 가속화되고 있다. 예를 들어, Visa는 결제 거래 전반에 걸쳐 사기 탐지 및 위험 점수 산정을 위해 의 AI 모델을 적용하고 있으며( ), 반면 의료 분야에 특화된 플랫폼들은 규제 약물 모니터링 및 임상 규정 준수 같은 업무 흐름에 AI를 활용하고 있는데, 이러한 맥락에서는 해당 분야에 특화된 정확도 요구 사항이 범용 에이전트가 신뢰성 있게 충족할 수 있는 수준보다 훨씬 더 엄격합니다.

IT 조달 결정에 있어 범용 에이전트는 유연성을 제공할 수 있지만, 명확하게 정의된 사용 사례 내에서 전문 시스템이 더 높은 정확도와 관련성을 보장할 수 있습니다. 도메인별 최적화로의 이러한 전환은 팀이 에이전트의 효율성을 어떻게 평가해야 하는지에 대해서도 영향을 미칩니다. 생산 준비 상태를 평가할 때, 정의된 작업 범위 내에서의 성능은 일반적인 역량 점수보다 더 의미 있는 평가 기준이 됩니다.


소프트웨어 분야를 넘어 같은 양상이 나타나고 있다. 로봇 플랫폼은 이제 동적인 작업 순서 지정을 처리하기 위해 에이전트 기반 AI 계층을 통합하고 있으며, 이는 사전 프로그래밍된 루틴을 넘어 적응형 의사결정 단계로 나아가고 있다. NIM 마이크로서비스와 AI Enterprise 플랫폼을 통해 에이전트 워크로드를 대규모로 배포하고 실행하는 데 점점 더 많이 활용되고 있는 엔비디아(Nvidia)와 같은 인프라 제공업체들은, 이러한 시스템을 운영 환경에서 보다 쉽게 구동할 수 있도록 지원하고 있습니다.

거버넌스 팀의 입장에서 볼 때, 이 두 가지 추세는 고려해야 할 범위가 클라우드 호스팅 에이전트를 넘어 하드웨어 가속화 및 물리적 배포 환경까지 확대된다는 것을 의미합니다.

기업에 미치는 영향: 다중 에이전트 워크플로를 운영 중이거나 평가 중인 경우, 사용 중인 모니터링 도구가 에이전트 간 인계 과정을 관찰할 수 있는지 확인하십시오. 많은 가시성 플랫폼은 에이전트 간 신호 전달이 아닌, 사용자가 직접 요청을 보내는 흐름을 위해 설계되었습니다.

오케스트레이션 변경 사항은 에이전트 간의 협업 방식에 영향을 미칩니다. 다음 섹션에서는 특히 엔드포인트 및 보안 운영 계층에서 어떤 변화가 일어나고 있는지 다룹니다.

엔드포인트별 동향 및 새로운 공격 표면

AI 기반 자동화가 엔드포인트 관리 및 보안 운영 분야로 더욱 깊이 침투함에 따라, 기존 보안 도구가 모니터링하도록 설계되지 않았던 방식으로 공격 표면이 확대되고 있습니다. 의 엔드포인트 및 응답 계층()에서는 최근의 기술 발전으로 인해 새로운 기능과 새로운 위험 패턴이 동시에 발생하고 있습니다.

운영 환경에서의 에이전트 드리프트

에이전트 드리프트는 누적된 미세 결정들이 아무도 의도하지 않았거나 명시적으로 승인하지 않은 결과로 이어질 때 발생하며, 이는 모델이 잘못된 출력을 생성하는 것을 의미하는 ‘모델 환각’과는 구별된다. 드리프트 위험은 대개 모델 산출값의 오류보다는, 권한 범위가 지나치게 넓거나 시간이 지남에 따라 모니터링이 미흡했던 환경 내에서 워크플로가 실행된 데서 비롯되는 경우가 많습니다. 워크플로 범위를 둘러싼 안전 장치가 제대로 적용되지 않으면, 모델이 설계된 대로 정확하게 동작하더라도 의도된 범위를 벗어나게 될 수 있습니다. 실무자들에게 있어 이는 승인 절차, 단계별 기록, 롤백 계획, 그리고 에이전트 범위에 대한 정기적인 검토를 핵심 운영 통제 수단으로 만듭니다.

탐지 격차: 로깅 및 탐지 기능이 사람이 직접 수행한 변경 사항, 서비스 계정 활동, 에이전트가 유발한 동작을 구분하고 있는지 검토해 보십시오. 그렇지 않을 경우, 사고 발생 시 에이전트 활동을 추적하기가 더 어려워질 수 있으며, 일상적인 모니터링 과정에서 이를 간과하기 쉬워질 수 있습니다.

[AI 규정 준수가 무엇을 요구하는지, EU AI 법과 같은 규제가 왜 그 중요성을 더욱 높이고 있는지, 그리고 조직이 확장 가능한 거버넌스 프로그램을 어떻게 구축할 수 있는지 알아보세요]

상시 에이전트 액세스로 인한 인증 정보의 무분별한 확산

이러한 시스템들은 기능을 수행하기 위해 여러 시스템에 걸쳐 지속적인 인증 정보 접근을 점점 더 필요로 하고 있습니다. 엔드포인트를 패치하고, 구성을 업데이트하며, 서비스를 다시 시작할 수 있는 수정 도구는 각 작업마다 자격 증명이 필요합니다.

에이전트의 권한 범위는 대개 개별 사용자보다 더 넓으며, 정해진 근무 시간 동안이 아니라 지속적으로 활성화되어 있습니다. 여기에 더해, 에이전트는 엔드포인트 관리, 신원 관리 및 비즈니스 애플리케이션 시스템을 연결하는 다양한 API를 통해 자주 인증을 수행하기 때문에, 단 하나의 서비스 계정이 침해당하기만 해도 여러 통합 계층을 동시에 가로질러 확산될 수 있습니다. 대부분의 특권 액세스 관리(PAM) 프레임워크는 이러한 패턴을 처리하도록 설계되지 않았습니다.

이러한 위험은 분산된 환경에서 종종 더욱 커집니다. 에이전트가 서로 다른 데이터 소스, 제어 플레인 및 실행 시스템에 의존하게 되면, 일관된 모니터링과 정책 적용을 유지하기가 어려워집니다. 보다 통합된 데이터 및 실행 모델을 통해 의사결정, 실행, 모니터링이 모두 동일한 신뢰할 수 있는 정보원을 기반으로 이루어지도록 보장함으로써 이러한 사각지대를 줄일 수 있습니다.

시스템 경계를 넘나드는 데이터 접근

의사결정을 지원하기 위해 여러 데이터 소스에서 데이터를 조회하는 에이전트들은 데이터 환경을 탐색하는 과정에서 가시성 문제를 야기하고 있다. 단일 에이전트 쿼리는 엔드포인트 원격 측정 데이터, 신원 관리 시스템, 비즈니스 인텔리전스 플랫폼 및 비즈니스 애플리케이션 데이터를 모두 대상으로 할 수 있습니다.

에이전트가 이러한 소스들 간에 쿼리를 자율적으로 연쇄적으로 실행할 수 있기 때문에, 의사 결정을 내리기 위해 어떤 데이터에 접근했는지의 전체 범위는 어느 단일 시스템의 접근 로그에서도 확인되지 않을 수 있습니다. 애플리케이션별로 가시성을 확보하기 위해 설계된 기존의 데이터 액세스 로깅 방식으로는, 에이전트가 의사 결정을 내리기 위해 어떤 데이터에 액세스했는지에 대한 전체적인 상황을 파악하지 못할 수도 있습니다.

엔드포인트에서의 AI 도구 확산

자격 증명 과다나 데이터 접근 문제보다 덜 주목받는 거버넌스상의 문제점은 더 간단하고 시급한데, 바로 대부분의 조직이 자사의 엔드포인트 환경에서 이미 실행 중인 AI 도구에 대한 정확한 현황 정보( )를 보유하고 있지 않다는 점이다. 로컬 대규모 언어 모델, MCP 서버, AI 모델 파일 및 타사 AI 애플리케이션 은 IT 또는 보안 팀이 이를 파악하기도 전에 엔드포인트에 설치되어 실행될 수 있습니다. 그러한 인벤토리가 없다면, 거버넌스 정책은 적용할 대상이 없습니다.

이것은 미래의 위험이 아닙니다. 개발자 및 파워 유저 계층에서 AI 도구가 널리 보급됨에 따라, 승인된 배포와 별개로 엔드포인트의 AI 공격 표면이 확대되고 있다. 승인된 에이전트 파이프라인에만 초점을 맞춘 거버넌스 프로그램은, 이와 병행하여 실행되는 비승인 AI로 인해 발생할 수 있는 노출 위험을 간과하게 될 것입니다.

기업에 미치는 영향: AI 도구의 무분별한 확산과 인증 정보의 무분별한 확산이 서로를 악화시킨다. SIEM 탐지 규칙이 사용자 계정과 동일한 수준으로 에이전트 서비스 계정도 포괄하고 있는지, 그리고 현재 엔드포인트 인벤토리가 기존 소프트웨어와 더불어 AI 관련 아티팩트도 파악하고 있는지 확인해 보십시오. 에이전트에서 시작한 구성 변경 사항에 대해 경고가 발생하지 않는다면, 탐지 사각지대가 있는 것입니다.

자율적 AI 도입을 주도하는 규제 및 표준 동향

규제 체계가 자율적 AI의 역량을 따라잡고 있으며, 이제 규제 이행 단계가 시작되고 있다.

EU AI법 시행의 주요 단계

에 따르면, EU AI법의 위험 기반 규제 체계 는 핵심 인프라 및 고용과 같은 적용 대상 분야에서 사용되는 AI 시스템에 적용될 수 있으나, 시기가 중요합니다. 이 법은 2024년에 발효되었으며, 일부 조항은 2025년부터 적용되기 시작했다. 고위험 AI 시스템의 경우, 기업 거버넌스와 가장 밀접한 관련이 있는 배포자 및 로깅 의무는 현재 2026년 8월 2일에 명시된 바와 같이 적용될 예정입니다.

2026년 5월 7일에서 유럽연합(EU) 의원들은 ‘디지털 옴니버스’에 대한 정치적 합의를 도출했으며, 여기에는 부속서 III에 명시된 신규 또는 대폭 수정된 고위험 AI 시스템에 대한 16개월의 유예 기간이 포함되어 있다. 공식적인 입양 절차는 아직 진행 중입니다. 법안이 제정될 때까지 각 기관은 2026년 8월 를 실질적인 계획 수립 마감일로 간주하고, ‘디지털 옴니버스(Digital Omnibus)’ 절차에 대한 최신 동향을 주시해야 합니다.

해당 고위험 사용 사례에 해당하는 팀들의 경우, 단기적으로 얻을 수 있는 더 정확한 교훈은 다음과 같습니다:

  • 로그 기록 및 보존: 시스템이 로그를 생성할 수 있도록 하고, 배포 담당자가 필요한 기간 동안 자신의 관리 하에 로그를 보존할 수 있도록 해야 합니다.
  • 인적 감독: 책임자를 지정하고, 사용 중 감독이 어떻게 이루어지는지 명확히 규정해야 합니다.
  • 사용 사례 및 위험 검토: 본 시스템이 고위험 범주에 속하는지, 그리고本番 환경에서 사용하기 전에 추가적인 의무 사항이 적용되는지 확인하십시오.

자율 시스템을 위한 NIST AI RMF 업데이트

미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크는 여전히 많은 조직이 AI 거버넌스를 수행하는 데 지침으로 삼는 주요 자발적 프레임워크로 자리 잡고 있다. NIST는 ‘AI RMF 플레이북’ 및 생성형 AI 프로필과 같은 자료를 통해 지침을 확대해 왔으며, 특히 AI 시스템이 실제 운영 환경에서 어떻게 작동하는지에 대한 관심을 점점 더 높이고 있습니다.


에이전트 기반 시스템을 도입하는 팀의 경우, 실질적인 변화는 지속적인 감독으로의 전환을 향하고 있다. 거버넌스는 단순히 배포 전 테스트에만 국한되는 것이 아닙니다. 이를 위해서는 에이전트가 어떻게 행동하는지, 어떤 데이터를 기반으로 하는지, 그리고 시간이 지남에 따라 의사결정이 어떻게 행동으로 이어지는지를 지속적으로 모니터링해야 합니다.

여기에는 에이전트의 의사결정에 기초가 되는 데이터 소스와 파이프라인을 문서화하는 것이 포함되며, 특히 에이전트가 정적 데이터 세트가 아닌 실시간 시스템에 쿼리를 보내는 환경에서는 더욱 그러합니다.

NIST를 기준으로 삼는 조직의 경우, 중점 사항이 “배포 전 테스트”에서 “배포 후 모니터링 및 검증”으로 전환됩니다.

기업 차원의 시사점: 배포 과정에서 영향력이 큰 작업이 자동화되는 경우, 지금 당장 롤백 절차, 승인 단계 및 에스컬레이션 경로를 문서화하십시오. 규정에서 “배포 링”을 명시적으로 요구하지 않는 경우에도, 통제된 롤백은 핵심적인 운영상의 안전 장치이자 감사 가능성에 기여하는 중요한 요소입니다.

귀사의 거버넌스 체계가 시대의 흐름에 발맞추고 있는지 평가하는 방법

위에서 다룬 동향을 고려할 때, IT 및 보안 팀은 구체적인 기준에 따라 현재의 거버넌스 현황을 평가할 수 있습니다.

평가 기준진단 질문대처하지 않을 경우의 위험
의사결정 데이터의 최신성이 데이터는 워크플로우가 허용하는 지연 또는 편차 범위를 고려했을 때 충분히 최신 상태인가요?대리인은 더 이상 존재하지 않거나 더 이상 중요하지 않은 조건을 바탕으로 행동할 수 있다
거버넌스 통제에이전트 승인 범위가 문서화되어 있으며, 정책에 따라 적용되고 있습니까?의도된 범위를 벗어난 통제되지 않은 자율적 행동
단계적 도입귀사의 배포 프로세스에서 단계별 배포, 롤백 절차 및 명확히 정의된 진행 기준을 지원하고 있습니까?대규모로 적용된 검증되지 않은 변경 사항으로 인한 광범위한 장애
통합에이전트가 기존 SIEM, ITSM 및 엔드포인트 도구와 컨텍스트를 교환할 수 있습니까?사각지대를 초래하는 단절된 자동화
감사 가능성 및 추적 가능성해당 에이전트가 어떤 작업을 수행했는지, 어떤 도구나 데이터를 사용했는지, 그리고 어떤 승인 절차나 점검 단계가 포함되었는지 재구성해 주실 수 있나요?규정 준수 미비, 사고 재구성 능력 부족, 운영자에 대한 신뢰도 저하

조직들이 이러한 기준을 평가해 보면, 거버넌스가 더 이상 정적인 정책 정의에만 국한되지 않는다는 점이 분명해집니다. 이는 실행 시점에 의사결정이 어떻게 이루어지는지, 시스템 전반에 걸쳐 작업이 어떻게 실행되는지, 그리고 결과가 어떻게 모니터링되고 검증되는지에 따라 달라집니다.

[더 빠른 위협 탐지 및 예방부터 공격자가 동일한 기능을 활용할 때 발생하는 위험에 이르기까지, AI가 사이버 보안을 어떻게 변화시키고 있는지 알아보세요]

각 평가 기준을 검토하기 전에, 현재 에이전트 배포 현황에 대한 기준 지표를 설정하십시오. 즉, 활성 상태인 에이전트 서비스 계정 수, 부여된 워크플로 수준 권한 수, 그리고 지난 30 일 동안 에이전트가 시작한 구성 변경 건수 등을 파악하십시오. 이러한 기준이 없다면, 아래의 평가 기준을 바탕으로 조치를 취하기 어렵습니다:

  • 의사결정 데이터의 최신성: 핵심 고려 사항은 의사결정에 활용되는 데이터가 수행 중인 조치에 대해 충분히 최신 상태인지 여부입니다. 변화가 빠른 환경에서는, 특히 사람이 실시간으로 결정을 검토하지 않는 경우, 데이터 수집과 에이전트 실행 사이에 발생하는 아주 짧은 지연조차도 부정확하거나 불필요한 문제 해결 조치를 초래할 수 있습니다. 데이터의 최신성과 에이전트의 행동 사이에 실제로 발생하는 지연 시간을 검증하는 것은 대부분의 팀이 아직 취하지 않은 구체적인 조치입니다.
  • 거버넌스 통제 및 인적 감독: 실질적인 문제는 승인 범위가 존재하는지 여부를 넘어, 실행 시점에 해당 범위가 일관되게 적용되고 있는지에 있습니다. 많은 조직에서는 워크플로우가 시작된 후 에이전트가 수행할 수 있는 작업을 완전히 제한하지 못하는 비공식적이거나 부분적으로만 구현된 승인 모델을 채택하고 있습니다.
  • 통합: 통합 과정에서 발생하는 문제는 대개 연결성보다는 일관성 문제와 더 관련이 깊습니다. 에이전트 워크플로우에 여러 시스템이 관여할 경우, 데이터 모델, 접근 제어 및 로깅 방식의 차이로 인해 가시성에 공백이 생길 수 있으며, 의사결정이 어떻게 구체적인 조치로 이어지는지 추적하기 어려워질 수 있습니다.
  • 점진적 출시 및 단계별 배포: 에이전트가 변경 사항을 직접 실행하기 시작함에 따라, 배포 전략은 거버넌스의 일부가 됩니다. 점진적인 도입, 단계별 실행, 그리고 문서화된 진행 기준은 잘못된 결정으로 인한 파급 효과를 제한하는 안전 장치 역할을 할 수 있습니다. 이 모델에서 롤아웃 설계는 단순한 운영상의 문제일 뿐만 아니라 거버넌스 메커니즘이기도 합니다.

어떤 플랫폼에서든 검토해 볼 만한 한 가지 차이점은, 롤백이 사람의 개입을 필요로 하는지, 아니면 실행 시 유효성 검사에 실패할 경우 시스템이 자동으로 롤백을 실행할 수 있는지 여부입니다. 실패 시 자동 롤백은 본질적으로 다른 거버넌스 통제 수단입니다. 이는 실패한 동작과 사람의 대응 사이에 존재하는 시간적 간격을 좁혀주며, 이는 에이전트가 빠른 속도와 대규모로 변경 사항을 실행하는 환경에서 가장 중요한 요소입니다.

[행동 주체적 AI를 관리하는 데 접근 제어 이상의 조치가 필요한 이유를 살펴보고, 자율 시스템의 무분별한 확산이 부담으로 작용하기 전에 어떻게 책임성을 구축할 수 있는지 알아보세요]

일부 플랫폼에서는 추천 및 자동화된 조치와 연계된 신뢰 신호를 도입하기 시작하고 있다. 이러한 신호들은 팀이 완전히 자동화된 실행을 허용할지, 아니면 추가적인 사람의 검토가 필요한지 판단하는 데 도움이 될 수 있습니다. 아직 표준화되지는 않았지만, 신뢰도 기반 통제 방식은 에이전트의 행동을 보다 예측 가능하고 감사 가능하게 만드는 수단으로 부상하고 있다.

IT 및 보안 팀이 향후 90 일 동안 우선순위를 두어야 할 사항

이 가이드에서 다룬 동향을 고려할 때, IT 및 보안 팀이 당분간 취할 수 있는 구체적인 조치들은 다음과 같습니다. 이 일곱 가지 조치는 전술적인 성격이지만, 더 광범위한 AI 전략 검토의 토대가 되어야 합니다.

  1. IAM 정책에 따라 감사 에이전트의 권한 범위를 검토합니다. 자율형 ERP 및 엔드포인트 에이전트에 이제 필요한 워크플로 수준 권한을 확인하십시오. 대부분의 IAM 구성은 워크플로 시작이 아닌 데이터 액세스에 국한됩니다.
  2. 에이전트 서비스 계정에 대한 SIEM 탐지 규칙을 검토하십시오. 탐지 규칙의 적용 범위가 사용자 계정으로 설정된 경우, 에이전트가 시작한 구성 변경 사항에 대해 경고가 발생하지 않을 수 있습니다.
  3. 영향이 큰 상담원 워크플로우에 대한 문서 롤백 절차, 승인 단계 및 에스컬레이션 경로를 문서화하십시오. 규제 요건과 무관하게, 통제된 출시 및 롤백은 운영상의 핵심 안전장치이며, EU AI법의 고위험 조항에 해당하는 배포의 경우, 이러한 조치는 해당 의무에서 요구하는 감사 가능성 관련 문서화를 직접 뒷받침합니다.
  4. 에이전트 간 인계 시 모니터링 범위를 평가합니다. 다중 에이전트 워크플로를 실행 중인 경우, 가시성 도구가 에이전트 간에 전달되는 컨텍스트를 추적할 수 있는지 확인하십시오.
  5. 에이전트의 의사결정에 대한 데이터 최신성 가정을 확인하십시오. 엔드포인트 또는 시스템 상태를 기반으로 자율적인 결정을 내리는 모든 에이전트의 경우, 해당 데이터가 실제로 얼마나 최신 정보인지 확인해야 합니다.
  6. ‘통찰에서 실행으로’ 이어지는 워크플로가 어떤 도구 간 경계를 넘나드는지 파악하십시오. 발견, 의사 결정 및 실행 과정에 여러 시스템이 관여하는 경우, 이러한 전환 과정이 어떻게 관리, 기록 및 모니터링되는지 확인하십시오.
  7. 에이전트 ID 및 서비스 계정을 확인하십시오. 어떤 에이전트가 어떤 도구를 호출할 수 있는지, 어떤 자격 증명을 사용하여 호출하는지, 그리고 어떤 승인 절차나 RBAC 제한 사항이 적용되는지를 문서화하십시오. 이는 지나치게 광범위한 접근 권한이 거버넌스 문제로 번지기 전에 이를 파악할 수 있는 가장 빠른 방법인 경우가 많습니다.

[엔드포인트에서 자율형 AI 위협이 어떻게 현실화되는지, 그리고 보안 팀이 자율형 에이전트를 실제 운영 환경에 배포하기 전에 어떤 통제 수단을 마련해야 하는지 알아보세요]

조직의 AI 거버넌스 문서가 에이전트 기능이 기본 플랫폼 계층에 포함되기 전에 작성된 경우, 워크플로우 수준의 권한, 다중 에이전트 간 업무 인계, 또는 EU AI법의 문서화 요건 등을 반영하지 못했을 가능성이 높습니다. 이 모든 사항은 이제 미래의 고려 사항이 아닌, 실제 운영상의 문제입니다.

이러한 격차들을 종합해 보면, 더 광범위한 과제가 부각됩니다. 즉, 거버넌스는 더 이상 단순한 정책 차원의 활동이 아닙니다. 이는 정확하고 최신의 데이터를 확보하는 것, 통제된 워크플로우 내에서 해당 데이터를 바탕으로 조치를 취할 수 있는 능력, 그리고 환경 전반에서 자율 시스템이 실시간으로 어떤 작업을 수행하고 있는지 파악할 수 있는 가시성에 달려 있습니다.

Tanium이 에이전트 기반 AI 거버넌스를 지원하는 방법

의 Tanium Autonomous IT 플랫폼( )은 IT 및 보안 운영을 위해 실시간 엔드포인트 인텔리전스와 통제된 실행 기능을 제공하며, AI 지원 및 에이전트 기반 워크플로우가 의존하는 데이터 및 제어 계층을 구축합니다.

이 기반은 실시간 엔드포인트 인텔리전스를 Tanium의 특허받은 선형 체인 아키텍처와 결합하고, 신뢰도 및 위험도 평가, 점진적 링 기반 배포, 그리고 심층적인 통합 기능을 갖추고 있습니다. 이러한 기반 위에 Tanium은 자연어 쿼리 기능, ‘휴먼-인-더-루프(human-in-the-loop)’ 제어 방식을 적용한 에이전트 기반 워크플로우, 그리고 자율적 활동에 대한 중앙 집중식 감독 기능을 추가합니다.

자율 운영 체제인 Tanium Atlas는 이러한 기반을 하나의 통합된 관리형 환경으로 결합하여, 지능, 안내, 실행이 동일한 워크플로우 내에서 원활하게 작동하도록 합니다. 에이전트형 AI 생태계가 지속적으로 발전함에 따라, Tanium은 조직이 시스템의 자율성이 높아짐에 따라 가시성을 유지하고, 거버넌스를 강화하며, 확신을 가지고 대응할 수 있도록 이 기반을 확장하고 있습니다.

IT 및 보안 운영 분야에서 에이전트형 AI의 효과성은 모델의 정교함보다는, 정해진 제약 조건 내에서 통찰력을 바탕으로 얼마나 확신 있게 행동으로 옮길 수 있는지에 더 크게 좌우된다. 실시간 데이터, 통제된 실행, 그리고 관찰 가능한 결과를 단일 워크플로우로 연결하는 시스템은 안전하고 확장 가능한 자동화를 지원하기에 더 적합합니다.

  • 실시간 엔드포인트 인텔리전스는 팀이 현재 기기 상태를 바탕으로 AI 지원 의사결정을 내릴 수 있도록 돕습니다. Tanium Ask 는 자연어 상호작용을 통해 인사이트를 도출하고 조사를 지원합니다. 또한, Tanium Ask Agent 는 데이터 탐색, 소프트웨어 관리 등을 위한 자동화되고 사람이 개입하는 워크플로를 지원함으로써 이를 실제 운영으로 확장합니다.
  • 민감한 작업에는 사람이 개입하는 제어 방식이 내장되어 있습니다. Tanium Ask Agent는 에이전트 기반 워크플로우 전반에 걸쳐 사람의 감독을 유지하며, 엔드포인트나 Tanium 구성에 직접적인 영향을 미치는 작업을 수행하기 전에 확인을 요구합니다. 관리자는 변경 사항을 감독하고, 승인하며, 원상복구할 수 있어, 팀이 플랫폼이 자신을 대신해 수행하는 작업을 통제할 수 있도록 합니다.
  • 신뢰도 점수 산정은 자동화된 변경 사항의 단계적 도입을 지원합니다. 의 신뢰도 점수를 활용한 점진적 배포( )는 조직이 변경 사항을 단계적으로 적용하고, 전면적인 실행에 앞서 잠재적인 영향을 평가할 수 있는 메커니즘을 제공합니다.
  • 자율적 활동에 대한 중앙 집중식 감독은 통합된 거버넌스 계층을 제공합니다. Tanium Action Oversight 는 플랫폼 전반에 걸친 자율적 활동의 현재 상태에 대한 지속적인 시스템 보고 및 가시성을 제공합니다. 개별 모듈 로그나 임시방편적인 모니터링에 의존하기보다는, 모든 시스템이 이 중앙 집중식 거버넌스 구성 요소에 연계되어 있어, IT 및 보안 팀은 플랫폼이 자율적으로 어떤 작업을 수행하고 있는지, 그 범위는 어느 정도이며, 어떤 조건 하에서 이루어지고 있는지에 대한 통합된 관점을 확보할 수 있습니다.
  • 플레이북 기반의 오케스트레이션은 체계적이고 반복 가능한 워크플로를 지원합니다. Tanium Automate 를 사용하면 팀이 코드를 거의 또는 전혀 작성하지 않고도 여러 작업을 논리적이고 반복 가능한 순서로 연결하는 플레이북을 생성하여, 패치 적용, 취약점 수정, 애플리케이션 배포와 같은 일반적인 작업을 자동화할 수 있습니다. 단계별 배포와 워크플로우에 내장된 사용자 감독 기능을 통해, 팀은 오류로 인한 영향을 최소화하고 프로덕션 환경에서 자동화가 확장되는 방식을 제어할 수 있습니다.
  • 사전 예방적인 취약점 관리는 자동화 환경에서 발생할 수 있는 후속 위험을 줄이는 데 도움이 됩니다. Tanium Guardian 은 제로데이 취약점을 비롯한 새롭게 발생하는 문제를 팀에 자동으로 알리고, 운영자가 취해야 할 권장 조치를 제공합니다. 가디언의 콘텐츠와 분석 자료는 타니움(Tanium)이 주도하고, 타니움의 보안 전문가, 업계 파트너 및 고객들이 협력하여 구성된 타니움 취약점 긴급 대응팀(VERT)이 작성합니다.
  • IT 및 보안 운영을 통합하면 모니터링 사각지대를 줄일 수 있습니다. Tanium Threat Response 는 엔드포인트 활동을 실시간으로 모니터링하고, 위협 탐지를 지원하며, Tanium Signals를 활용하여 지속적인 탐지 및 경고를 제공합니다. 탐지 및 대응 작업이 동일한 플랫폼에서 수행되므로, 팀은 작업 환경이나 도구를 전환하지 않고도 탐지 규칙을 구축하고 최적화할 수 있습니다.

이러한 접근 방식은 데이터 계층과 실행 계층에서 거버넌스를 동시에 다루는 것이 가져다주는 운영상의 이점을 반영합니다. 실시간 데이터 수집, 관리된 워크플로 실행, 감사 추적 생성, 통합 탐지를 아우르는 종단간 접근 방식이야말로, 에이전트형 AI와 함께 확장 가능한 거버넌스 프레임워크와, 에이전트 기능이 확장됨에 따라 새로운 사각지대를 만들어내는 프레임워크를 구분 짓는 요소입니다.

에이전트가 현재 엔드포인트 상태를 기반으로 작업하고, 감사 가능한 워크플로우 내에서 운영되며, 통합된 탐지 범위를 통해 경보를 발령할 때, 에이전트 기반 AI를 위험하게 만드는 감독의 사각지대는 더 이상 당연한 것으로 간주되지 않고 해결 가능한 문제가 됩니다.

에이전트형 AI가 엔드포인트 환경으로 확대됨에 따라, 가시성 관련 과제는 애플리케이션 목록에서 런타임 동작, 로컬 모델, 임베디드 에이전트 프레임워크로 옮겨가고 있다. 이 동영상은 이러한 위험 요소가 어떻게 드러나는지, 그리고 팀이 Tanium을 활용해 이를 분류하고 모니터링하기 시작할 수 있는 방법을 실용적인 관점에서 살펴봅니다.

행위 주체적 AI의 발전에 관한 자주 묻는 질문

‘주체적 AI’가 무엇을 의미하는지, 그리고 그것이 여러분의 환경에 어떤 영향을 미치는지 아직 파악 중이신가요? 기능이 발전하고 거버넌스에 대한 기대치도 이에 발맞춰 변화함에 따라, 팀들이 현재 가장 자주 묻는 질문들을 이 간결한 답변들을 통해 정리해 보았습니다. 이를 활용하여 무엇이 바뀌는지, 이것이 귀사의 위험 상황에 어떤 영향을 미치는지, 그리고 향후 어떤 부분에 중점을 두어야 할지 명확히 파악하십시오.

행동 주체적 AI 분야의 최신 동향은 무엇인가요?

에이전트형 AI는 채팅 방식의 지원 기능을 넘어, 계획을 세우고 도구를 활용하며 여러 단계로 구성된 워크플로를 완료할 수 있는 시스템으로 진화하고 있습니다. SAP, 마이크로소프트, AWS, 오라클 등 주요 업체들이 최근 출시한 제품들을 보면, 기업들이 에이전트를 구축하고 조정할 수 있는 기성 솔루션의 선택지가 더 많아졌음을 알 수 있지만, 대부분의 조직은 아직 이를 확대 적용하는 초기 단계에 머물러 있다.

왜 이렇게 많은 에이전트형 AI 프로젝트들이 실제 운영 단계에서 실패하고 있는 것일까?

많은 실패는 거버넌스상의 격차에서 비롯됩니다. 즉, 팀들이 데이터 최신성 기대치, 승인 범위, 신원 관리, 가시성 등을 실제 운영 환경에서 자율 워크플로가 수행할 수 있는 범위와 아직 조율하지 못했기 때문입니다. 맥킨지의 ‘ 2025년 11월 ’ 설문조사( )에 따르면, 응답자의 약 3분의 2가 소속 조직이 아직 전사적으로 AI를 확대 적용하기 시작하지 않았다고 답했는데, 이는 챗봇에 대한 기대감이 여전히 운영상의 성숙도를 앞지르는 이유를 설명해 준다.

주체성 기반 AI의 업데이트가 의사결정 과정에 어떤 영향을 미치나요?

최근 플랫폼 업데이트로 인해 에이전트의 역할이 자문 역할에서 실행 역할로 전환되었으며, 이는 이제 에이전트가 사람의 승인을 기다리지 않고 직접 워크플로를 시작하고 구성을 수정할 수 있게 되었음을 의미합니다. 이로 인해 의사결정 방식이 “에이전트가 제안하고, 사람이 승인한다”에서 “에이전트가 정의된 매개변수 범위 내에서 행동한다”로 바뀌게 됩니다. IT 팀의 경우, 이는 거버넌스가 이제 단순히 데이터 접근 제어뿐만 아니라 워크플로우 수준의 권한까지 고려해야 하며, 모니터링 도구는 사용자가 시작한 작업만큼이나 에이전트가 시작한 작업도 철저히 파악해야 함을 의미합니다.

주체적 AI에는 미래가 있을까?

Agentic AI adoption is accelerating, with nearly 70% of enterprises in Team8's 2025 CISO Village Survey, a community of security leaders at large enterprises, reporting AI agents already in production. 이 수치는 평균적인 기업보다는 선도적인 도입 기업들을 반영한 것으로 보입니다. 맥킨지의 ‘ 2025년 11월 ’ 설문조사 에 따르면, 대부분의 기업은 여전히 초기 단계에 머물러 있는 것으로 나타났습니다. 종합해 보면, 이 데이터는 시장 상위권에서 도입 속도가 고르지 않지만 빠르게 진행되고 있음을 시사한다.

이 기술의 미래는 거버넌스 체계가 에이전트의 역량을 따라잡을 수 있느냐에 달려 있다. 그곳에 도달하는 조직은 거버넌스를 단순한 정책적 차원의 활동이 아니라, 운영상의 원칙으로 간주하며, 이를 초기 단계부터 에이전트의 배치, 모니터링 및 제약 방식에 내재화하는 조직일 것입니다.

ChatGPT와 같은 도구가 많은 조직에 AI 생성 결과물을 소개해 주었지만, 에이전트 기반 시스템은 근본적으로 다른 범주에 속합니다. 이 시스템들은 단순히 질의에 응답하는 데 그치지 않고 스스로 행동을 개시하며, 바로 이러한 차이점 때문에 거버넌스가 그토록 중요한 것입니다.

가시성 격차를 조기에 해결하는 팀은 자신감을 가지고 능동형 AI 도입을 확대해 나갈 수 있는 유리한 입지를 확보하게 될 것입니다. 이를 실천하지 않는 조직은, 더 명확한 경계 설정과 향상된 엔드포인트 인텔리전스를 통해 예방할 수 있었을 사고를 처리해야 하는 상황에 직면하게 될 것입니다.

거버넌스는 더 이상 단순한 정책 수립에 그치지 않습니다. 정확한 최신 데이터, 통제된 워크플로우 내에서 조치를 취할 수 있는 능력, 그리고 자율 시스템이 실시간으로 무엇을 하고 있는지 파악할 수 있는 가시성이 필수적입니다.
지금 바로 무료 맞춤형 데모를 신청하세요( ). Tanium이 에이전트 기반 AI 거버넌스를 어떻게 지원하는지 확인해 보세요. ‘ ’ 팟캐스트()를 청취하시고, , LinkedIn( ) 및 각종 소셜 미디어에서 Tanium을 팔로우하여 에이전트 기반 AI 거버넌스, 엔드포인트 보안, 기업 IT 동향에 대한 최신 소식을 받아보세요.