인간의 감독이 제한된 워크플로를 계획, 호출 및 완성할 수 있는 인공 지능의 한 형태인 Agentic AI 시스템은 거버넌스 관행이 보조를 맞추기 어렵더라도 기업 전반에서 실험에서 프로덕션 사용으로 이동하고 있습니다.
상담원이 할 수 있는 작업과 엔터프라이즈 제어가 설명하는 작업 간의 격차가 커지고 있습니다. 일단 인간 검토에 대한 권장 사항을 표시한 상담원은 이제 승인을 기다리지 않고 워크플로를 시작하고 구성을 수정하며 컨텍스트를 다른 상담원에게 전달합니다. IT 팀은 종종 거버넌스 정책이 잡히기 전에 이러한 기능을 기본 플랫폼 기능으로 점점 더 상속하고 있습니다.
이 가이드는 IT 및 보안 실무자가 현재 거버넌스 태세와 비교하여 평가할 수 있는 특정 역량 변화, 프레임워크 변경 및 규제 이정표에 대해 다룹니다.
에이전트 AI가 엔터프라이즈 거버넌스가 추적할 수 있는 것보다 빠르게 진화하는 이유
에이전트 AI 는 최소한의 인간 개입으로 목표를 달성하기 위해 자율적으로 계획하고, 결정을 내리고, 조치를 취할 수 있는 AI 시스템을 말합니다. 프롬프트에 응답하는 기존 AI와 달리 에이전트 시스템은 복잡한 목표를 세분화하고 외부 도구를 사용하며 결과에 따라 접근 방식을 조정합니다.
오늘날 대부분의 프로덕션 배포는 툴 사용, 메모리 및 오케스트레이션을 처리하는 추가 계층과 함께 추론 코어로서 대규모 언어 모델(LLM) 위에 구축됩니다.
이 아키텍처를 이해하는 것은 거버넌스에 중요합니다. 추론 계층, 도구 계층 및 오케스트레이션 계층은 각각 고유한 위험 프로필을 가지고 있습니다.
에이전트 거버넌스에서 덜 논의되지만 중요한 요소는 에이전트가 런타임에 의존하는 데이터의 품질과 적시성입니다.
자율성이 증가함에 따라, 결정은 더 이상 인간에 의해 단계별로 검토되지 않으며, 이는 부정확하거나 오래된 데이터가 잘못된 작업으로 직접 변환될 수 있음을 의미합니다. 이러한 프레임워크는 일반적으로 권한 및 감사 가능성에 중점을 두지만 데이터 신선도와 완전성은 마찬가지로 중요한 제어입니다.
에이전트 시스템이 할 수 있는 것과 대부분의 기업 거버넌스 프레임워크가 설명하는 것 사이의 격차는 빠르게 증가하고 있습니다. 엔터프라이즈 AI 채택은 많은 거버넌스 프로그램이 처리하기 위해 구축된 것보다 빠르게 가속화되고 있습니다.
McKinsey의 2025년 11월 설문조사 에 따르면 응답자의 62%가 조직이 최소한 AI 에이전트를 실험하고 있다고 응답했으며, 23%는 이미 엔터프라이즈 어딘가에서 에이전트 AI 시스템을 확장하고 있다고 응답했습니다. 동일한 설문조사에 따르면 대부분의 조직은 여전히 시범 단계에 있으며, 거의 2/3는 아직 AI 전사적으로 확장되지 않았습니다. 이는 거버넌스 프로그램이 앞선 것이 아니라 역량 곡선 뒤에 일관되게 있는 이유를 설명하는 데 도움이 됩니다. 그렇다고 해서 에이전트 사용이 보편적인 것은 아니지만 감독 팀이 더 이상 에이전트 AI를 미래 전용 문제로 취급할 수 없다는 것을 의미합니다.
[AI 에이전트 유형이 어떻게 다른지, 거버넌스에 구분이 중요한 이유, 에이전트의 복잡성을 조직의 감독 역량에 맞추는 방법 알아보기]
에이전트가 조달 워크플로를 시작하거나, 구성을 수정하거나, 사람의 승인 없이 액세스 요청을 에스컬레이션할 수 있는 경우 거버넌스 질문이 변경됩니다. 더 이상 누가 어떤 데이터에 액세스할 수 있는지에 관한 것이 아닙니다. 이는 어떤 자율 프로세스가 어떤 비즈니스 작업을 어떤 조건에서 트리거할 수 있는지에 관한 것입니다.
이는 이전 세대의 AI 어시스턴트에서, 그리고 심지어 그 앞에 놓인 챗봇과 대화형 인터페이스에서도 의미 있는 출발점으로, 권장 사항을 표시하고 인간의 방향을 기다리도록 설계되었습니다. 현재 세대의 행동과 거버넌스 프레임워크는 이러한 차이를 반영해야 합니다.
다음 섹션에서는 IT 및 보안 팀이 현재 거버넌스 구조와 비교하여 평가할 수 있는 특정 기능 변경, 프레임워크 업데이트 및 규제 이정표를 다룹니다. 이 모든 부분에서 공통된 스레드: 상담원이 더 이상 비즈니스 프로세스의 에지에서 운영되지 않습니다. 조달, 공급망 관리, 보안 운영 및 인프라 관리를 촉진하는 핵심 워크플로에 내장되어 있습니다.
모델 기능 업데이트 및 확장된 자율성이 IT 위험에 의미하는 바
지난 한 해 동안 몇 가지 플랫폼 업데이트로 인해 에이전트가 사람의 개입 없이 할 수 있는 일이 확장되었습니다. 이러한 에이전트를 지원하는 기본 AI 모델도 다단계 추론을 통해 더 많은 역량을 갖추게 되었습니다. 즉, 12개월 전에 적절한 거버넌스 경계와 동일한 거버넌스 경계에 에이전트가 현재 취할 수 있는 작업 범위가 더 이상 포함되지 않을 수 있습니다. Anthropic, OpenAI 및 기타 다양한 스타트업의 모델 릴리스는 확장된 도구 사용 및 다단계 계획 기능을 설계 목표로 특별히 강조했으며, 엔터프라이즈 배포에서 확장된 자율 작업으로 직접 변환하는 기능을 강조했습니다.
플랫폼 측면에서 주요 벤더는 프로덕션 배포에 대한 장벽을 낮추고 있습니다. Microsoft는 Copilot Studio를 작업 또는 비즈니스 프로세스를 독립적으로 관리하고 다중 에이전트 오케스트레이션에 참여할 수 있는 에이전트를 포함하여 에이전트를 구축하고 관리하기 위한 플랫폼으로 포지셔닝합니다. SAP는 Joule Agents를 대규모로 워크플로를 자동화하고 기능 전반에 걸쳐 복잡한 프로세스를 조정하는 비즈니스 프로세스 인식 에이전트라고 설명합니다. 거버넌스의 의미는 모든 ERP 워크플로가 기본적으로 완전히 자율적이지는 않지만, 더 많은 엔터프라이즈 플랫폼이 에이전트 중심의 작업 실행을 구성하고 운영하기 쉽게 만들어준다는 것입니다.
IT 팀의 경우 이제 데이터 액세스 수준뿐만 아니라 워크플로 수준에서 에이전트 권한 범위를 설정해야 합니다. 대부분의 IAM 구성 은 기본적으로 데이터 액세스 권한에 따라 범위가 지정되며, 최신 ID 플랫폼을 실행하는 환경에서도 워크플로 시작 또는 체인 작업 실행을 관리하는 정책은 명시적으로 정의되지 않습니다.
또 다른 새로운 요구 사항은 에이전트 기반 워크플로의 전체 수명 주기에 걸친 엔드투엔드 거버넌스입니다. 위험은 결정 시점에만 도입되는 것이 아니라 통찰력 생성 방법, 권장 사항 표시 방법 및 작업 실행 방법에도 도입됩니다. 도구 간에 이러한 단계를 구분하는 시스템은 결정이 어떻게 환경의 특정 변화를 초래했는지 추적하기 어려울 수 있습니다.
데이터베이스 인접 AI 기능에 대한 거버넌스 질문은 일관됩니다. 자율적 결정 뒤에 있는 데이터는 얼마나 최신 상태이고, 경로에 어떤 캐싱 또는 복제 계층이 있으며, 자동화되는 워크플로에 대해 해당 지연 시간이 허용됩니까? 이러한 질문은 벤더에 관계없이 적용됩니다.
플랫폼 업데이트 전반에 걸친 패턴은 일관됩니다. 에이전트는 자문 역할(인간이 승인할 수 있는 작업 제안)에서 실제 실행 역할(정의된 매개변수 내에서 작업 수행)로 이동하고 있습니다. 이러한 변화는 관찰된 패턴에서 일반화할 수 있는 에이전트의 능력을 개선한 머신 러닝 의 발전에 의해 부분적으로 주도됩니다. 또한 더 유용하게 만드는 동일한 기능은 교육 배포의 가장자리에서 행동을 예측하기 어렵게 만듭니다.
| 역량 이동 | 예 | 거버넌스 격차 생성 |
|---|---|---|
| 워크플로 시작 | SAP 조달 에이전트 | 워크플로 권한이 아닌 데이터 액세스로 범위가 지정된 IAM 정책 |
| 실시간 데이터 쿼리 | Oracle AI 데이터베이스 | 보유하지 않을 수 있는 데이터 신선도 가정을 기반으로 한 에이전트 결정 |
| 연결된 작업 | 다단계 복구 에이전트 | 개별 작업을 캡처하지만 결정 체인을 놓치는 감사 추적 |
엔터프라이즈 영향: IAM 정책이 데이터 액세스 권한과 워크플로 시작 권한을 구별하는지 검토합니다. \"승인된\" 액세스 범위 내에서 운영되는 에이전트는 의도한 거버넌스 경계를 벗어난 비즈니스 작업을 여전히 트리거할 수 있습니다. 또한 모든 기능 확장이 표준 변경 알림 채널을 통해 전달되는 것은 아니므로 ERP, 클라우드 또는 엔드포인트 벤더에 관계없이 플랫폼 제공업체에게 최근 업데이트에서 기본적으로 활성화된 에이전트 기능을 확인할 수 있습니다.
모델 기능이 확장됨에 따라 다음 질문은 프로덕션 환경에서 상담원이 서로 조정하는 방식이 됩니다.
엔터프라이즈 배포에 영향을 미치는 에이전트 프레임워크 및 오케스트레이션 변경 사항
전문 에이전트가 복잡한 워크플로의 다양한 측면을 처리하기 위해 조정하는 다중 에이전트 시스템은 연구 환경에서 프로덕션 IT 환경으로 이동하고 있습니다. 이것은 단순한 작업 체인이 아닙니다. 여기에는 보안 운영, IT 서비스 관리 및 비즈니스 애플리케이션 계층을 동시에 포괄할 수 있는 분기 결정 로직, 조건부 에스컬레이션 및 교차 시스템 컨텍스트 전달이 포함됩니다.
많은 초기 엔터프라이즈 배포가 탐지, 분석 및 작업 사이에 인간 체크포인트를 삽입했습니다. 지금 변화하고 있는 것은 자동화 자체가 존재하지 않는 것이지만, 팀이 하나의 업무 흐름 내에서 여러 전문 에이전트를 조정할 수 있는 플랫폼의 용이성입니다. 문제를 감지하는 에이전트는 이제 조사 결과를 다른 에이전트 또는 도구에 전달하여 이전보다 적은 사용자 지정 오케스트레이션으로 후속 분석 또는 작업을 수행할 수 있습니다.
이렇게 하면 잘못 구성된 상담원의 블래스트 반경이 변경됩니다. 오류는 하나의 작업 경계에서 더 이상 중지되지 않습니다. 합법적인 프로세스를 잘못 분류하는 탐지 에이전트는 경고를 보기 전에 생산 시스템을 격리하는 복구 에이전트 를 트리거할 수 있습니다.
많은 주요 클라우드 플랫폼이 이미 조정된 다중 에이전트 워크플로에 훨씬 더 쉽게 액세스할 수 있도록 하고 있습니다. AWS는 일반적으로 년에 Amazon Bedrock 2025년 3월에 다중 에이전트 협업을 제공했으며, 이후 프로덕션 에이전트를 배포하고 관리하기 위한 모듈식 엔터프라이즈급 플랫폼인 Amazon Bedrock AgentCore가 년에 일반 가용성에 도달했습니다 2025년 10월.
제공업체 전반에 걸친 패턴은 일관적입니다. 프로덕션 다중 에이전트 배포를 위한 인프라 오버헤드가 빠르게 감소하고 있습니다. 이러한 기능을 쉽게 배포할 수 있게 되면서 거버넌스 툴링은 위임 경로, 감독자 로직, 관찰 가능성 및 장애 처리를 따라잡아야 합니다.
에이전트 시스템에 대한 인적 감독 또한 점점 더 세분화되고 있습니다. 업무 프로세스를 시작할 때 간단한 승인 또는 거부 모델이 아니라 조직은 일련의 작업 내에서 제어 지점을 점점 더 정의하고 있습니다. 이를 통해 팀은 전체 워크플로를 차단하지 않고 특정 단계를 검토, 검증 또는 재정의하고 속도와 책임의 균형을 맞출 수 있습니다.
또한 LangGraph 및 AutoGen과 같은 오픈 소스 오케스트레이션 도구를 포함하여 이러한 비동기 핸드오프를 지원하는 프레임워크는 다중 에이전트 시스템 배포의 장벽을 낮추고 있으며, 이는 IT 팀이 제재 대상 엔터프라이즈 플랫폼 외부에서 구축된 에이전트 배포에 직면할 수 있음을 의미합니다. 거버넌스 정책은 벤더 관리 및 내부 구축 에이전트 시스템을 모두 고려해야 합니다.
수직 전문화도 가속화되고 있습니다. 예를 들어, Visa는 결제 거래 전반에 걸쳐 사기 탐지 및 위험 채점을 위한 AI 모델을 적용하는 반면, 특별히 제작된 의료 플랫폼은 통제된 물질 모니터링 및 임상 규정 준수와 같은 업무 흐름, 도메인별 정확도 요구 사항이 범용 에이전트가 안정적으로 충족할 수 있는 것보다 훨씬 엄격한 컨텍스트에 AI를 사용합니다.
IT 조달 결정을 위해 범용 에이전트는 유연성을 제공할 수 있지만 전문화된 시스템은 잘 정의된 사용 사례 내에서 더 높은 정확성과 관련성을 제공할 수 있습니다. 도메인별 최적화로의 이러한 전환은 팀이 에이전트 효과를 평가하는 방법에도 영향을 미칩니다. 정의된 작업 경계 내의 성능은 프로덕션 준비 상태를 평가할 때 일반적인 기능 점수보다 더 의미 있는 벤치마크입니다.
소프트웨어를 넘어 동일한 패턴이 나타나고 있습니다. 로보틱스 플랫폼은 이제 에이전트 AI 계층을 통합하여 동적 작업 시퀀싱을 처리하고 사전 프로그래밍된 루틴을 넘어 적응형 의사 결정으로 전환하고 있습니다. NIM 마이크로서비스 및 AI Enterprise 플랫폼이 대규모 에이전트 워크로드를 배포하고 실행하는 데 점점 더 많이 사용되고 있는 Nvidia와 같은 인프라 제공업체는 프로덕션 환경에서 이러한 시스템을 더 쉽게 실행할 수 있도록 하고 있습니다.
거버넌스 팀의 경우, 두 가지 추세는 처리해야 할 사항의 범위가 클라우드 호스팅 에이전트를 넘어 하드웨어 가속 및 물리적으로 구현된 배포로 확장된다는 것을 의미합니다.
엔터프라이즈 영향: 다중 에이전트 워크플로를 실행하거나 평가하는 경우 모니터링 도구가 에이전트 간 핸드오프를 관찰할 수 있는지 확인합니다. 많은 관찰 가능성 플랫폼은 에이전트 간 신호 전달이 아니라 사용자가 시작한 요청 흐름을 위해 설계되었습니다.
오케스트레이션 변경은 상담원이 함께 작업하는 방식에 영향을 미칩니다. 다음 섹션에서는 엔드포인트 및 보안 운영 계층에서 변경되는 사항을 구체적으로 다룹니다.
엔드포인트별 개발 및 새로운 공격 표면
AI 기반 자동화가 엔드포인트 관리 및 보안 운영으로 더 깊이 이동함에 따라 공격 표면은 기존 보안 툴링이 모니터링하도록 설계되지 않은 방식으로 확장됩니다. 엔드포인트와 대응 계층에서 최근 개발은 새로운 기능과 새로운 위험 패턴을 동시에 생성하고 있습니다.
프로덕션 환경에서의 에이전트 드리프트
에이전트 드리프트는 잘못된 출력을 생성하는 모델을 지칭하는 모델 환각과는 별개로, 의도되거나 명시적으로 승인된 누적 미세 결정이 결과에 혼재될 때 발생합니다. 드리프트 위험은 종종 잘못된 모델 출력과 시간이 지남에 따라 너무 광범위하거나 충분히 모니터링되지 않은 권한 내에서 실행되는 워크플로에 대한 위험이 더 적습니다. 워크플로 범위를 중심으로 가드레일이 적용되지 않는 경우 모델은 의도한 범위를 벗어나는 동시에 설계된 대로 정확하게 작동할 수 있습니다. 실무자의 경우 승인 포인트, 단계 수준 로깅, 롤백 계획 및 에이전트 범위 핵심 운영 제어에 대한 정기 검토를 수행합니다.
탐지 격차: 로깅과 탐지가 인간이 시작한 변경 사항, 서비스 계정 활동 및 에이전트 트리거 작업을 구별하는지 검토합니다. 그렇지 않으면 사고 발생 시 상담원 활동을 추적하기가 더 어렵고 일상적인 모니터링 중에 상담원 활동을 놓치기가 더 쉬워질 수 있습니다.
[AI 규정 준수에 필요한 사항, E.U. AI 법과 같은 규정이 위험을 높이는 이유, 조직이 확장 가능한 거버넌스 프로그램을 구축하는 방법 이해]
영구 상담원 액세스에서 자격 증명 스프롤
이러한 시스템은 기능을 수행하기 위해 여러 시스템에서 지속적인 자격 증명 액세스가 점점 더 필요합니다. 엔드포인트 패치, 구성 업데이트 및 서비스 재시작을 수행할 수 있는 복구 에이전트에는 각 작업에 대한 자격 증명이 필요합니다.
상담원 자격 증명은 종종 개별 인간 사용자보다 범위가 넓으며 정의된 근무 시간보다는 지속적으로 활성화됩니다. 이를 결합하여 에이전트는 엔드포인트 관리, ID 및 비즈니스 애플리케이션 시스템을 연결하는 API를 통해 인증하는 경우가 많습니다. 즉, 침해된 단일 서비스 계정이 여러 통합 계층을 동시에 통과할 수 있습니다. 대부분의 권한 있는 액세스 관리(PAM) 프레임워크는 이 패턴을 처리하도록 설계되지 않았습니다.
이러한 위험은 종종 단편화된 환경에서 증폭됩니다. 에이전트가 다양한 데이터 소스, 제어 평면 및 실행 시스템에 의존하는 경우 일관된 감독 및 정책 시행을 유지하기가 어려워집니다. 보다 통합된 데이터 및 실행 모델은 의사 결정, 작업 및 모니터링이 모두 동일한 진실 소스에서 작동하도록 함으로써 이러한 사각 지대를 줄일 수 있습니다.
시스템 경계 전반에 걸친 데이터 액세스
여러 데이터 소스에서 데이터를 쿼리하여 의사 결정을 내리는 에이전트는 가시성 문제를 일으키는 방식으로 데이터 환경을 횡단하고 있습니다. 단일 에이전트 쿼리는 엔드포인트 원격 측정, ID 시스템, 비즈니스 인텔리전스 플랫폼 및 비즈니스 애플리케이션 데이터를 터치할 수 있습니다.
에이전트는 이러한 소스에 대한 쿼리를 자율적으로 연결할 수 있으므로 결정에 도달하기 위해 액세스한 모든 범위가 단일 시스템의 액세스 로그에 표시되지 않을 수 있습니다. 애플리케이션별 가시성을 위해 설계된 기존 데이터 액세스 로깅은 상담원이 결정에 도달하기 위해 액세스한 것에 대한 전체 그림을 캡처하지 못할 수 있습니다.
엔드포인트에서 AI 도구 확산
자격증명 스프롤 또는 데이터 액세스보다 적은 주의를 받는 거버넌스 격차는 더 간단하고 더 즉각적입니다. 대부분의 조직은 엔드포인트 환경에서 이미 실행 중인 AI 툴에 대한 정확한 인벤토리 를 가지고 있지 않습니다. IT 또는 보안 팀이 엔드포인트에 대한 가시성을 확보하기 전에 로컬 대규모 언어 모델, MCP 서버, AI 모델 파일 및 타사 AI 애플리케이션을 설치하고 실행할 수 있습니다. 이러한 인벤토리가 없으면 거버넌스 정책은 시행할 필요가 없습니다.
이는 향후 위험이 아닙니다. AI 툴링이 개발자 및 전력 사용자 계층에서 확산됨에 따라 엔드포인트의 AI 공격 표면이 승인된 배포와 독립적으로 확장되고 있습니다. 승인된 에이전트 파이프라인에만 집중하는 거버넌스 프로그램은 함께 실행되는 승인되지 않은 AI로 인해 발생하는 노출을 놓치게 됩니다.
엔터프라이즈의 영향: AI 툴 스프롤 및 크리덴셜 스프롤은 서로를 복잡하게 만듭니다. SIEM 탐지 규칙이 사용자 계정과 동일한 엄격성을 가진 에이전트 서비스 계정을 포함하는지, 엔드포인트 인벤토리가 이제 기존 소프트웨어와 함께 AI별 아티팩트를 캡처하는지 여부를 감사하십시오. 상담원이 시작한 구성 변경으로 인해 경고가 생성되지 않는 경우 감지 간격이 있습니다.
에이전트 AI 배포를 형성하는 규제 및 표준 업데이트
규제 프레임워크는 에이전트 AI 기능을 따라잡고 있으며 시행 단계가 시작되고 있습니다.
E.U. AI 법 집행 이정표
E.U. AI 법의 위험 기반 체제 는 중요한 인프라 및 고용과 같은 적용 대상 맥락에서 사용되는 AI 시스템에 적용될 수 있지만 타이밍은 중요합니다. 이 법은 2024년에 발효되었으며 일부 조항은 2025년에 적용되기 시작했습니다. 고위험 AI 시스템의 경우 기업 거버넌스와 가장 관련이 있는 배포자 및 로깅 의무는 현재 에 적용될 예정입니다 2026년 8월 2일.
에 2026년 5월 7일E.U. 의 입법자들은 디지털 옴니버스에 대한 정치적 합의에 도달했으며, 여기에는 부록 III에 나열된 신규 또는 실질적으로 수정된 고위험 AI 시스템에 대한 16개월 연기가 포함됩니다. 공식 채택은 아직 보류 중입니다. 법률이 제정될 때까지 조직은 운영 계획 기한 2026년 8월 으로 취급하고 디지털 옴니버스 프로세스 업데이트를 모니터링해야 합니다.
대상 고위험 사용 사례에서 운영되는 팀의 경우, 보다 정확한 단기 요점은 다음과 같습니다.
- 로깅 및 보존: 시스템이 로그를 생성할 수 있고 배포자가 필요한 기간 동안 자신의 제어 하에 로그를 유지할 수 있는지 확인합니다.
- 인적 감독: 책임 담당자를 할당하고 사용 중에 감독을 수행하는 방법을 정의합니다.
- 사용 사례 및 위험 검토: 배포가 고위험 범주에 속하는지 여부 및 프로덕션 사용 전에 추가 의무가 적용되는지 확인
자율운영 시스템을 위한 NIST AI RMF 업데이트
NIST(National Institute of Standards and Technology) AI 위험 관리 프레임워크는 많은 조직이 AI 거버넌스를 안내하는 데 사용하는 주요 자발적 프레임워크로 남아 있습니다. NIST는 AI RMF Playbook 및 생성 AI 프로필과 같은 리소스를 통해 AI 시스템이 프로덕션 환경에서 작동하는 방식에 대한 집중을 강화하여 지침을 확장했습니다.
에이전트 시스템을 배포하는 팀의 경우 실질적인 변화는 지속적인 감독입니다. 거버넌스는 배포 전 테스트에만 국한되지 않습니다. 이를 위해서는 에이전트가 어떻게 행동하는지, 어떤 데이터에 의존하는지, 그리고 결정이 시간이 지남에 따라 어떻게 작업으로 변환되는지에 대한 지속적인 모니터링이 필요합니다.
여기에는 특히 상담원이 정적 데이터세트가 아닌 라이브 시스템을 쿼리하는 환경에서 상담원의 결정을 알리는 데이터 소스 및 파이프라인을 문서화하는 것이 포함됩니다.
NIST를 기준으로 사용하는 조직의 경우, 강조는 배포 전 '테스트'에서 배포 후 '모니터링 및 검증'으로 이동합니다.
엔터프라이즈 영향: 배포가 영향력이 큰 작업을 자동화하는 경우 롤백 절차, 승인 포인트 및 에스컬레이션 경로를 지금 문서화합니다. 규정에서 명시적으로 배포 링을 요구하지 않는 경우에도 제어된 롤백은 핵심 운영 안전 장치이며 감사 가능성에 중요한 입력 요소입니다.
거버넌스 프레임워크가 보조를 맞추었는지 평가하는 방법
위에서 다룬 개발 사항을 고려하여 IT 및 보안 팀은 특정 기준에 대해 현재 거버넌스 태세를 평가할 수 있습니다.
| 평가 기준 | 진단 질문 | 해결되지 않은 경우의 위험 |
|---|---|---|
| 결정 데이터 신선도 | 데이터가 지연 또는 드리프트에 대한 워크플로의 허용 오차에 충분한 최신 데이터입니까? | 에이전트는 더 이상 존재하지 않거나 더 이상 중요하지 않은 조건에 따라 행동할 수 있습니다 |
| 거버넌스 제어 | 에이전트 승인 경계를 문서화하고 정책을 시행합니까? | 의도한 범위를 벗어난 통제되지 않은 자율 작업 |
| 점진적 출시 | 배포가 단계적 출시, 롤백 절차 및 정의된 진행 기준을 지원합니까? | 규모에서 테스트되지 않은 변경으로 인한 광범위한 실패 |
| 통합 | 에이전트가 기존 SIEM, ITSM 및 엔드포인트 도구와 컨텍스트를 교환할 수 있습니까? | 사각 지대를 생성하는 사일로화된 자동화 |
| 감사 가능성 및 추적 가능성 | 에이전트가 수행한 작업, 에이전트가 사용한 도구 또는 데이터 및 관련된 승인 또는 체크포인트를 재구성할 수 있습니까? | 규정 준수 격차, 약한 사고 재구성 및 낮은 운영자 신뢰 |
조직이 이러한 기준을 평가함에 따라 거버넌스가 더 이상 정적 정책 정의로 제한되지 않는다는 것이 분명해집니다. 런타임에 의사 결정이 통지되는 방법, 시스템 전반에서 작업이 실행되는 방법, 결과를 모니터링하고 검증하는 방법에 따라 달라집니다.
[더 빠른 위협 탐지 및 예방에서 공격자가 동일한 기능을 사용할 때 발생하는 위험에 이르기까지 AI가 사이버 보안을 어떻게 재구성하고 있는지 알아보십시오]
각 기준을 처리하기 전에 현재 상담원 배포에 대한 기준 메트릭을 설정합니다. 즉, 활성 상담원 서비스 계정 수, 부여된 워크플로 수준 권한 수, 지난 30 일 동안 발생한 상담원 시작 구성 변경 수를 설정합니다. 이러한 베이스라인이 없으면 아래의 평가 기준은 다음과 같은 조치를 취하기 어렵습니다.
- 결정 데이터 신선도: 주요 고려 사항은 데이터 공급 에이전트 결정이 수행 중인 작업에 대해 충분히 최신 상태인지 여부입니다. 빠르게 이동하는 환경에서는 데이터 수집과 에이전트 실행 사이의 짧은 지연조차도 부정확하거나 불필요한 복구를 초래할 수 있습니다. 특히 사람이 실시간으로 결정을 검토하지 않는 경우 더욱 그렇습니다. 데이터 신선도와 에이전트 작업 간의 실제 지연 시간을 검증하는 것은 대부분의 팀이 취하지 않은 구체적인 단계입니다.
- 거버넌스 통제 및 인적 감독: 실제 질문은 승인 경계가 존재하는지 여부뿐만 아니라 실행 시점에 일관되게 시행되는지 여부도 능가합니다. 많은 조직에서는 업무 프로세스를 시작한 후 에이전트가 수행할 수 있는 작업을 완전히 제한하지 않는 비공식 또는 부분적으로 구현된 승인 모델을 보유하고 있습니다.
- 통합: 통합 문제는 종종 연결성에 관한 것이 아니라 일관성에 관한 것입니다. 여러 시스템이 상담원 워크플로에 관여하는 경우 데이터 모델, 액세스 제어 및 로깅의 차이는 가시성의 격차를 야기하고 의사 결정이 작업으로 변환되는 방법을 추적하는 것을 어렵게 만들 수 있습니다.
- 점진적 롤아웃 및 단계적 배포: 에이전트가 직접 변경을 실행하기 시작하면 배포 전략이 거버넌스의 일부가 됩니다. 점진적인 출시, 단계적 실행 및 문서화된 진행 기준은 잘못된 결정의 블래스트 반경을 제한하는 안전 제어 역할을 할 수 있습니다. 이 모델에서 롤아웃 설계는 운영 문제일 뿐만 아니라 거버넌스 메커니즘이기도 합니다.
어떤 플랫폼에서든 평가할 가치가 있는 한 가지 차이점은 롤백에 사람이 시작해야 하는지 또는 실행이 유효성 검사에 실패할 때 시스템이 롤백을 자동으로 트리거할 수 있는지 여부입니다. 실패 시 자동 롤백은 정성적으로 다른 거버넌스 제어입니다. 이는 실패한 작업과 인간의 응답 사이의 창을 닫습니다. 이는 상담원이 속도와 규모로 변경을 실행하는 환경에서 가장 중요합니다.
[에이전트 AI를 관리하는 데 액세스 제어 이상의 것이 필요한 이유와 무분별한 확산이 책임이 되기 전에 자율 시스템에 책임을 구축하는 방법을 알아보세요]
또한 일부 플랫폼은 권장 사항 및 자동화된 작업과 관련된 신뢰 신호를 도입하기 시작했습니다. 이러한 신호는 팀이 완전 자동화된 실행을 허용할 시기와 추가 인간 검토가 필요한 시기를 결정하는 데 도움이 될 수 있습니다. 아직 표준화되지는 않았지만 상담원 행동을 예측하고 감사할 수 있는 방법으로 신뢰 기반 제어가 부상하고 있습니다.
향후 90 일 내에 IT 및 보안 팀이 우선순위 지정 가능
이 가이드에서 다루는 개발 사항을 고려할 때, IT 및 보안 팀이 단기적으로 취할 수 있는 구체적인 조치는 다음과 같습니다. 이러한 7가지 작업은 전술적이지만 더 광범위한 AI 전략 검토에도 알려야 합니다.
- IAM 정책에 대한 에이전트 권한 범위를 감사하십시오. 자율 ERP 및 엔드포인트 에이전트에 필요한 워크플로 수준 권한을 확인합니다. 대부분의 IAM 구성은 워크플로 시작이 아니라 데이터 액세스로 범위가 지정됩니다.
- 상담원 서비스 계정에 대한 SIEM 감지 규칙을 검토합니다. 감지 규칙이 사용자 계정에 적용되는 경우 에이전트 시작 구성 변경으로 인해 경고가 생성되지 않을 수 있습니다.
- 영향력이 큰 에이전트 워크플로에 대한 롤백 절차, 승인 포인트 및 에스컬레이션 경로를 문서화합니다. 통제된 롤아웃 및 롤백은 규제 요구 사항에 관계없이 핵심 운영 안전 장치이며, E.U. AI 법의 고위험 조항에 해당하는 배포의 경우 이러한 의무에 필요한 감사 가능성 문서를 직접 지원합니다.
- 에이전트 간 핸드오프에 대한 모니터링 범위를 평가합니다. 다중 에이전트 워크플로를 실행하는 경우 관찰 도구로 에이전트 간 컨텍스트 전달을 추적할 수 있는지 확인합니다.
- 상담원 결정을 위한 데이터 신선도 가정을 확인합니다. 엔드포인트 또는 시스템 상태를 기반으로 자동 결정을 내리는 모든 에이전트의 경우 데이터가 실제로 얼마나 새로운지 확인합니다.
- Insight-to-action 워크플로우가 도구 경계를 가로지르는 위치를 식별합니다. 여러 시스템이 검색, 결정 및 실행에 관여하는 경우 이러한 전환이 어떻게 관리, 기록 및 모니터링되는지 확인합니다.
- 인벤토리 에이전트 ID 및 서비스 계정. 어떤 상담원이 어떤 도구를 호출할 수 있는지, 어떤 자격 증명이 있는지, 어떤 승인 또는 RBAC 경계가 있는지 문서화합니다. 이는 종종 거버넌스 문제로 전환되기 전에 해외 액세스를 표면화하는 가장 빠른 방법입니다.
[오토노머스 에이전트를 프로덕션에 배포하기 전에 에이전트적 AI 위협이 엔드포인트를 어떻게 구체화하는지, 보안 팀이 필요로 하는 제어가 무엇인지 확인]
에이전트 기능이 기본 플랫폼 계층에 들어가기 전에 조직의 AI 거버넌스 문서가 작성된 경우, 워크플로 수준 권한, 다중 에이전트 핸드오프 또는 E.U. AI 법의 문서 요구 사항을 고려하지 않을 가능성이 높으며, 이 모든 것은 이제 향후 고려 사항이 아니라 운영상의 우려 사항입니다.
종합하면, 이러한 격차는 더 광범위한 도전을 강조합니다. 거버넌스는 더 이상 단순한 정책 연습이 아닙니다. 이는 정확한 최신 데이터, 제어된 워크플로 내에서 해당 데이터에 대한 작업 능력, 환경 전반에서 자율 시스템이 실시간으로 수행하는 작업을 이해하는 가시성에 달려 있습니다.
Tanium이 에이전트 AI 거버넌스를 지원하는 방법
Tanium Autonomous IT 플랫폼은 IT 및 보안 운영을 위한 실시간 엔드포인트 인텔리전스 및 통제된 실행을 제공하여 AI 지원 및 에이전트 워크플로우가 의존하는 데이터 및 제어 계층을 제공합니다.
이 기반은 실시간 엔드포인트 인텔리전스와 Tanium의 특허받은 리니어 체인 아키텍처를 신뢰 및 위험 점수, 점진적 링 기반 배포 및 심층적인 통합과 결합합니다. Tanium은 이러한 기반 외에도 자연어 쿼리, 인간 인더루프 제어를 통한 에이전트 워크플로우 및 자율 활동에 대한 중앙 집중식 감독을 추가합니다.
자율 운영 체제인 Tanium Atlas는 인텔리전스, 지침 및 작업이 동일한 워크플로 내에서 작동하는 단일 통제 환경에 해당 기반을 통합합니다. 에이전트 AI 에코시스템이 계속 진화함에 따라 Tanium은 조직이 가시성을 유지하고 거버넌스를 시행하며 시스템이 더 자율화됨에 따라 자신 있게 행동할 수 있도록 이 기반을 확장하고 있습니다.
IT 및 보안 운영에서 에이전트 AI의 효율성은 모델의 정교함에 따라 달라지지 않으며 정의된 제약 내에서 통찰력에서 행동으로 자신 있게 이동할 수 있는 정도에 따라 달라집니다. 단일 워크플로에서 실시간 데이터, 통제된 실행 및 관찰 가능한 결과를 연결하는 시스템은 안전하고 확장 가능한 자동화를 지원할 수 있는 더 나은 위치에 있습니다.
- 실시간 엔드포인트 인텔리전스는 팀이 현재 디바이스 상태에서 AI 지원 결정을 접지하는 데 도움이 됩니다. Tanium Ask 는 자연어 상호 작용을 사용하여 인사이트를 표시하고 조사를 지원합니다. 또한 Tanium Ask Agent 는 데이터 검색, 소프트웨어 관리 등을 위한 자동화된 인더루프 워크플로를 지원하여 이를 실행으로 확장합니다.
- 루프 내 인간 제어는 민감한 작업에 내장되어 있습니다. Tanium Ask Agent는 에이전트 워크플로 전반에 걸쳐 인적 감독을 유지하며 엔드포인트 또는 Tanium 구성에 직접 영향을 미치는 작업 전에 확인이 필요합니다. 관리자는 변경 사항을 감독, 승인 및 되돌려 팀이 플랫폼을 대신하여 수행하는 작업을 제어할 수 있도록 할 수 있습니다.
- 신뢰도 점수는 자동화된 변경의 제어된 롤아웃을 지원합니다. 신뢰도 점수를 사용한 점진적 배포는 광범위한 실행 전에 변경 단계를 정하고 잠재적 영향을 평가하는 메커니즘을 조직에 제공합니다.
- 자율 활동에 대한 중앙 집중식 감독은 통합 거버넌스 계층을 제공합니다. Tanium Action Oversight 는 플랫폼 전반에 걸친 자율 활동의 현재 상태에 대한 지속적인 시스템 보고 및 가시성을 제공합니다. 개별 모듈 로그 또는 임시 모니터링에 의존하는 대신, 모든 시스템은 이 중앙 집중식 거버넌스 구성 요소에 연결되어 IT 및 보안 팀이 플랫폼이 자율적으로, 어떤 범위에서, 어떤 조건에서 수행하고 있는지에 대한 통합 보기를 제공합니다.
- 플레이북 기반 오케스트레이션은 통제되고 반복 가능한 워크플로를 지원합니다. Tanium Automate 를 사용하면 팀은 작업을 코드 없이 논리적이고 반복 가능한 시퀀스로 연결하는 플레이북을 생성하여 패치 적용, 취약성 복구 및 애플리케이션 배포와 같은 일반적인 작업을 자동화할 수 있습니다. 단계별 롤아웃 및 사용자 감독이 워크플로우에 내장되어 있으므로 팀은 오류의 영향을 제한하고 프로덕션 환경 전반에서 자동화가 확장되는 방식을 제어할 수 있습니다.
- 사전 예방적인 취약성 관리는 자동화된 환경에서 다운스트림 위험을 줄이는 데 도움이 됩니다. Tanium Guardian 은 제로데이 취약성을 포함한 새로운 문제를 팀에 자동으로 알리고 권장되는 운영자 조치를 제공합니다. Guardian 콘텐츠 및 통찰력은 Tanium 보안 전문가, 업계 파트너 및 고객 간의 Tanium 주도 협업인 Tanium의 VERT(취약성 비상 대응 팀)가 준비합니다.
- 통합 IT 및 보안 운영은 모니터링 사각지대를 줄일 수 있습니다. Tanium Threat Response 는 엔드포인트 활동을 실시간으로 모니터링하고 위협 헌팅을 지원하며 Tanium Signals를 사용하여 지속적인 탐지 및 경고를 수행합니다. 조사 및 대응은 동일한 플랫폼에서 실행되기 때문에 팀은 컨텍스트 또는 도구를 전환하지 않고도 탐지를 구축하고 조정할 수 있습니다.
이 접근법은 데이터와 실행 계층에서 거버넌스를 함께 해결하는 운영상의 이점을 반영합니다. 실시간 데이터 수집, 통제된 워크플로 실행, 감사 추적 생성 및 통합 탐지를 아우르는 엔드투엔드 접근 방식은 에이전트 기능이 확장됨에 따라 에이전트 AI로 확장할 수 있는 거버넌스 프레임워크와 새로운 사각지대를 생성하는 거버넌스 프레임워크를 구분합니다.
에이전트가 현재 엔드포인트 상태에서 작업하고, 감사 가능한 워크플로 내에서 작동하고, 통합 탐지 커버리지를 통해 경고를 트리거할 때 에이전트 AI를 위험에 빠뜨리는 감독 격차는 가정하기보다 해결 가능해집니다.
에이전트 AI가 엔드포인트 환경으로 확장됨에 따라 가시성 문제는 애플리케이션 목록에서 런타임 동작, 로컬 모델 및 임베디드 에이전트 프레임워크로 전환됩니다. 이 비디오는 이러한 위험이 어떻게 드러나는지, 그리고 팀이 Tanium을 사용하여 어떻게 분류하고 모니터링할 수 있는지에 대한 실용적인 보기를 제공합니다.
에이전트 AI 진행 상황에 대한 자주 묻는 질문
여전히 에이전트 AI의 의미와 이것이 환경에 미치는 영향을 자세히 살펴보시겠습니까? 이러한 빠른 답변은 역량이 진화하고 거버넌스 기대치가 따라잡을 때 팀이 지금 당장 묻는 가장 일반적인 질문을 세분화합니다. 이를 사용하여 변경 사항, 위험 태세에 대한 의미 및 다음에 집중해야 할 부분을 명확히 합니다.
에이전트 AI의 최신 기능은 무엇입니까?
에이전트 AI는 채팅 스타일 지원을 넘어 도구를 계획하고 사용하며 다단계 워크플로를 완료할 수 있는 시스템으로 전환하고 있습니다. SAP, Microsoft, AWS 및 Oracle과 같은 회사에서 최근 벤더를 출시한 결과, 기업들은 에이전트를 구축하고 조정하기 위한 기성품 옵션을 더 많이 보유하고 있지만, 대부분의 조직은 아직 확장 단계에 있습니다.
왜 이렇게 많은 에이전트 AI 이니셔티브가 프로덕션에서 실패할까요?
많은 실패는 거버넌스 격차에서 기인합니다. 팀은 아직 데이터 신선도 기대치, 승인 경계, ID 제어 및 관찰 가능성을 자율 워크플로우가 프로덕션에서 실제로 수행할 수 있는 작업과 일치시키지 못했습니다. McKinsey의 2025년 11월 설문조사 에 따르면 응답자의 약 3분의 2가 조직 전체가 아직 AI 확장을 시작하지 않았다고 응답했으며, 이는 에이전트에 대한 기대가 여전히 운영 성숙도를 능가하는 이유를 설명하는 데 도움이 됩니다.
에이전트 AI 업데이트는 의사 결정 프로세스에 어떤 영향을 미칩니까?
최근 플랫폼 업데이트로 인해 상담원은 자문 역할에서 실행 역할로 바뀌었으며, 이는 이제 사람의 승인을 기다리지 않고 워크플로를 시작하고 구성을 수정한다는 것을 의미합니다. 이렇게 하면 의사 결정이 '에이전트'에서 '승인'에서 정의된 매개변수 내에서 '에이전트'로 변경됩니다. IT 팀의 경우, 거버넌스는 이제 데이터 액세스 제어뿐만 아니라 워크플로 수준의 권한을 고려해야 하며, 모니터링 도구는 사용자가 시작한 작업만큼 엄격하게 에이전트가 시작한 작업을 캡처해야 합니다.
에이전트 AI에는 미래가 있습니까?
Agentic AI adoption is accelerating, with nearly 70% of enterprises in Team8's 2025 CISO Village Survey, a community of security leaders at large enterprises, reporting AI agents already in production. 이 수치는 조직 중앙값이 아닌 최첨단 채택자를 반영할 가능성이 높으며, McKinsey의 2025년 11월 설문조사 는 대부분의 회사들이 여전히 초기 단계에 있음을 발견했다. 종합해 볼 때, 데이터는 채택이 고르지 않지만 시장 최고 수준으로 빠르게 이동하고 있음을 시사합니다.
이 기술의 미래는 거버넌스 프레임워크가 에이전트 기능을 따라잡을 수 있는지 여부에 달려 있습니다. 거기에 도달하는 조직은 거버넌스를 정책 연습이 아니라 운영 원칙으로 취급하고, 에이전트가 처음부터 배포, 모니터링 및 제약을 받는 방법에 내재되어 있을 것입니다.
ChatGPT와 같은 도구는 많은 조직에 AI 생성 결과물을 도입했지만, 에이전트 시스템은 근본적으로 다른 범주를 대표합니다. 즉, 쿼리에 응답하는 것뿐만 아니라 작업을 개시하며, 이러한 구분이 거버넌스를 매우 중요하게 만듭니다.
가시성 격차를 조기에 해결하는 팀은 에이전트적 AI 배포를 자신 있게 확장할 수 있는 위치에 있습니다. 그렇지 않은 조직은 더 명확한 경계와 더 나은 엔드포인트 인텔리전스로 예방할 수 있었던 사고를 스스로 관리합니다.
거버넌스는 더 이상 단순한 정책 연습이 아닙니다. 정확한 최신 데이터, 제어된 워크플로 내에서 작업할 수 있는 능력, 자율운영 시스템이 실시간으로 어떤 작업을 하는지 이해할 수 있는 가시성에 달려 있습니다.Tanium이 에이전트 AI 거버넌스를 지원하는 방법을 알아보려면 지금 무료 맞춤형 데모를
요청하십시오. 팟캐스트를 듣고 링크드인 및 소셜 미디어 전반에서 Tanium을 팔로우하여 에이전트 AI 거버넌스, 엔드포인트 보안 및 엔터프라이즈 IT 개발에 대한 지속적인 업데이트를 확인하십시오.
