이 분야가 중요한 이유

에이전트가 데모를 벗어나 실제 업무를 처리하기 시작하면서, 누군가는 그것을 통제해야 한다는 사실이 분명해졌다. 사람이 버튼을 누르던 자리에 이제는 스스로 도구를 호출하고, 데이터베이스를 조회하고, 송금을 승인하는 소프트웨어가 들어선다. 잘 돌아갈 때는 마법 같지만, 어긋나는 순간 책임 소재가 사라진다. 누가, 어떤 권한으로, 무슨 근거로 그 행동을 했는가. 이 질문에 답할 수 있는 체계가 없으면 규제 산업에서 에이전트는 배포 자체가 불가능하다.

2026년 들어 이 공백을 메우는 플랫폼이 쏟아졌다. 6월 23일 출시된 Zafin AIOS는 규제 금융권을 겨냥해 에이전트 작업을 오케스트레이션하고 거버넌스하는 엔드투엔드 플랫폼을 표방했고, 구글의 Gemini Enterprise Agent Platform, 마이크로소프트의 에이전트 거버넌스 툴킷(OWASP Agentic Top 10 대응)이 뒤를 이었다. Langfuse·Arize·AgentOps 같은 관찰성 도구는 에이전트가 어떤 도구를 누구의 권한으로 호출했고 결과가 무엇이었는지를 추적한다. 이 모든 것을 설계하고 운영하는 사람 — 그것이 에이전트 거버넌스 통제 영역의 엔지니어다. EU AI Act의 고위험 요건(로깅·인적 감독·기술 문서)이 2026년 8월 2일 발효되면서, 이 자리는 ‘있으면 좋은’ 것에서 ‘없으면 배포 불가’로 바뀌었다.

필요한 역량

기술의 중심에는 기계가 읽을 수 있는 정책 강제가 있다. PII 유출, 프롬프트 인젝션, 데이터 유출, 고위험 행동 승인 — 이런 규칙을 문서가 아니라 런타임에서 코드로 집행하는 정책 엔진을 다뤄야 한다. 그다음은 에이전트 신원과 접근 제어다. 모든 행동이 고유한 에이전트 신원에 귀속되어야 하고, 스코프드 토큰과 최소 권한으로 권한을 잘게 쪼개야 한다. 관찰성도 핵심이다. 어떤 도구가 누구에 의해 호출됐고 결과가 무엇이었는지를 추적·기록하는 계측 능력, 그리고 비용 거버넌스 — 에이전트가 토큰과 API 호출로 예산을 태우지 않게 막는 일까지 포함된다.

마지막은 감사와 증적이다. 규제 당국이 요구하는 ‘작업 증명(proof of work)’ 기록 — 어떤 결정이 어떤 근거로 내려졌는지를 사후에 재구성할 수 있는 로그와 문서를 남기는 일이다. 소프트 스킬로는 규제 번역 능력이 결정적이다. EU AI Act나 금융 규제의 추상적 요구사항을 구체적인 정책 규칙과 로깅 스키마로 옮길 수 있어야 한다. 보안 엔지니어, 플랫폼 엔지니어, MLOps 어느 쪽에서든 진입할 수 있지만, 공통 조건은 에이전트의 도구 호출 구조에 대한 깊은 이해다.

커리어 경로

진입은 보통 AI 보안 분석가나 주니어 플랫폼 엔지니어에서 시작해, 에이전트 거버넌스 엔지니어 또는 AgentOps 엔지니어로 넘어간다. 시니어 단계에서는 통제 평면 전체를 설계하는 Staff AI Security Engineer, 리드 단계에서는 Head of Agent Governance 같은 자리로 이어진다. 국내 시장에서는 네이버·카카오·라인·쿠팡·배민(네카라쿠배)이 자체 에이전트 플랫폼을 키우면서 AI 플랫폼 보안 인력을 흡수하고 있고, 토스·카카오뱅크를 비롯한 금융권은 규제 대응이 곧 배포 조건이라 거버넌스 역량을 가진 엔지니어를 따로 찾는다.

해외로 눈을 돌리면 FAANG급 빅테크가 사내 에이전트 플랫폼 보안 팀을 꾸리고, Zafin·Langfuse 같은 거버넌스·관찰성 스타트업이 초기 멤버를 공격적으로 모은다. 규제 금융이 가장 먼저 움직이는 시장인 만큼, 금융 도메인 지식과 에이전트 거버넌스를 함께 갖춘 사람은 희소가치가 크다. 이 직군이 매력적인 이유는 단순하다 — 에이전트가 더 많은 권한을 쥘수록, 그 권한을 통제하는 사람의 자리는 더 빠르게 비어간다.