IT·보안 책임자 86% “AI 에이전트가 가드레일 뚫는다”…가시성 확보는 23%뿐

기업들이 AI 에이전트를 앞다투어 도입하고 있지만, 이를 통제할 보안 체계는 그 속도를 따라가지 못하고 있다. 엠에스에스피알럿(MSSPAlert)이 타하울테크(TahawulTech) 보도를 인용해 전한 루브릭(Rubrik)의 연구조직 제로랩스(Zero Labs) 조사에 따르면, IT·보안 책임자의 86%는 1년 안에 AI 에이전트가 자사 보안 가드레일을 넘어설 것으로 내다봤다. 정작 자사 환경에서 작동 중인 에이전트를 완전히 파악하고 있다고 답한 비율은 23%에 그쳤다. 브로드컴(Broadcom) 역시 브이엠웨어 익스플로어(VMware Explore) 2026 행사에서 AI 에이전트에게 신원과 통제 지점을 부여하는 작업이 시급하다고 진단했다.

응답자 86%가 “안전장치 뚫린다”…가시성은 23%뿐

엠에스에스피얼럿에 따르면 이번 조사는 IT·보안 책임자 1,600명 이상을 대상으로 진행됐다. 응답자의 86%는 앞으로 1년 안에 AI 에이전트가 자사의 보안 가드레일(안전장치)을 넘어설 것이라고 답했다. 조직 내에서 작동 중인 AI 에이전트를 완전히 파악하고 있다고 밝힌 비율은 23%에 불과했다.

이 때문에 실제로 의사결정을 내리고 핵심 데이터를 다루는 에이전트의 신원을 제대로 보호하지 못하는 상황이 벌어지고 있다. 조사는 이를 비인간 신원(non-human identity)으로 이뤄진 ‘그림자 인력(shadow workforce)’이라고 표현했다. 이 그림자 인력은 기업이 추적할 수 있는 속도보다 빠르게 늘어나며 새로운 침해 경로를 만들어내고 있다.

되돌릴 수 없는 에이전트, 감독 부담만 키운다

조사에서는 AI 에이전트의 효용성에 대한 의문도 확인됐다. 응답자의 80% 이상은 에이전트가 제공하는 효율성보다 이를 감독하는 데 드는 수작업 부담이 더 크다고 답했다. 자동화를 위해 들여온 기술이 오히려 관리 인력의 일을 늘리고 있다는 의미다.

더 심각한 대목은 되돌리기 문제다. 응답자의 88%는 시스템에 지장을 주지 않고 에이전트의 행동을 되돌릴 방법이 없다고 밝혔다. 에이전트가 잘못된 결정을 내려도 이를 취소할 안전판이 없다는 뜻이다.

응답자의 거의 절반은 앞으로 1년 안에 에이전트 기반 시스템이 공격의 대부분을 주도할 것으로 예상했다. 조사는 이사회와 경영진 차원에서 AI 전략을 복원력(resilience) 전략과 통합해야 한다고 결론 내렸다.

브로드컴 “직원 다루듯 에이전트도 신원부터”…VMware Explore 2026 경고

시큐브(theCUBE)와 시장 흐름을 보도하는 실리콘앵글(SiliconANGLE)은 수십 년간 인간 직원을 위한 통제 체계를 다져온 기업들이 이제는 사번도, 급여도, 도덕적 판단 기준도 없는 두 번째 인력을 관리해야 하는 처지가 됐다고 짚었다. 에이전트가 실험 단계를 넘어 미션 크리티컬한 업무를 맡으면서, 거버넌스는 AI 인프라의 기초 설계 단계로 옮겨가고 있다.

브로드컴의 신원관리보안부문(Identity Management Security Division) 부사장 겸 총괄매니저인 클레이턴 돈리(Clayton Donley)는 더큐브(theCUBE)의 존 퓨리어(John Furrier)와 만나 에이전트 신원과 거버넌스 문제를 논의했다. 돈리는 “AI로 미션 크리티컬한 일을 아주 빠르게 처리하는 기업들과 매일 이야기를 나눈다”고 말했다. 이어 “이는 직원을 어떻게 대우하고 권한을 부여할지 50년간 다져온 환경에서 벌어지는 일이 아니다. 완전히 새로운 세계에서 일어나고 있는 일”이라고 덧붙였다.

초기에는 공격자가 AI 에이전트를 무기화해 기업을 노리는 위협에 관심이 쏠렸지만, 최근에는 반대 방향의 위험으로 관심이 옮겨가고 있다. 기업 자신의 에이전트가 어떤 인증이나 감사 체계 밖에서 움직이는 문제다. 돈리는 이런 공백을 규제 산업에서는 오래 방치할 수 없다고 짚었다.

돈리는 “사베인스-옥슬리법(Sarbanes-Oxley Act) 시절에는 직원이 적절한 접근권한을 갖고 있는지 인증해야 했다. 그런데 내 에이전트가 이런 접근권한을 갖고 있는지는 아무도 인증하지 않는다. 아무도 그런 걸 하지 않는다”고 말했다. 그러면서 “아직 성숙도가 그 수준에 이르지 못했지만, 그 성숙도를 따라잡으려는 흐름이 나타나고 있다”고 덧붙였다.

신원·개입·점검…기존 인프라 위에 통제 지점부터 얹는다

이 공백을 메우려면 에이전트를 신원(identity)으로 먼저 다뤄야 한다는 게 돈리의 진단이다. 브로드컴은 수십 년간 분산 애플리케이션 추적(tracing)에 써온 기술을 프롬프트와 툴 호출(tool call)에 적용해, 에이전트가 실제로 무엇을 했고 왜 그렇게 했는지까지 들여다볼 수 있는 관찰 가능성(observability)을 넓히고 있다. 신원, 개입(intervention), 점검(inspection) 세 가지를 핵심 원칙으로 꼽았다.

돈리는 “에이전트의 신원, 나쁜 일이 벌어지는 것을 차단할 통제 지점, 실제로 무슨 일이 일어나는지 모니터링할 수 있는 능력이 필요하다”며 “이 셋을 하나로 엮어낼 수 있는 것이 정말 중요하다”고 말했다.

기업이 기존 AI 인프라를 다시 짓지 않고도 그 위에 통제 계층을 얹을 수 있다고 돈리는 설명했다. 시작점은 수동적인 관찰이다. 트래픽을 지켜보고 에이전트를 식별한 뒤, 정책을 적용할 수 있는 중앙 통제 지점을 두는 방식이다.

돈리는 “우리가 가장 먼저 하는 일은 그냥 트래픽을 지켜보는 것일 때가 많다. 아주 쉽고 비용도 거의 들지 않으며, 아무것도 바꿀 필요가 없기 때문”이라고 말했다. 이어 “클로드(Claude) 키를 회수하고 오픈AI(OpenAI) 키도 회수한 뒤, 회사가 발급한 키를 대신 준다. 그러면 다른 앱을 통해 자신들의 키로 통제를 피해가지 못하도록 막을 수 있다”고 설명했다.