AI 보안 엔지니어 (AI Security Engineer) on Reputo | 학생을 위한 커리어 가이드

AI 채용 공정성 감사: AI 보안 엔지니어의 새 영역

Sun, 28 Jun 2026 00:00:00 +0000

이 분야가 중요한 이유

스탠퍼드 HAI가 2026년 5월 발표한 연구는 지원서 400만 건, 기업 156곳을 들여다봤다. 결과는 불편했다. 흑인 지원자의 약 26%가 연방 불리효과(adverse impact) 심사를 부를 만한 직무에 노출됐고, 아시아계도 15% 선이었다. 진짜 문제는 개별 편향이 아니라 구조였다. 다수 기업이 같은 벤더(Pymetrics)의 모델 하나로 후보를 걸러내는 ‘알고리즘 단일문화’ 탓에, 한 회사에서 탈락한 사람은 다른 회사에서도 비슷하게 막힌다. 한 모델의 약점이 시장 전체의 장벽이 된다는 뜻이다. 미국 기업의 약 90%가 어떤 형태로든 AI 스크리닝을 쓰는 지금, 누군가는 이 시스템을 뜯어봐야 한다. 한국 취업시장도 예외가 아니다. 대기업 공채의 AI 역량검사와 AI 면접, 플랫폼 채용의 자동 매칭이 빠르게 표준이 됐고, 그만큼 “이 모델이 특정 집단을 조용히 배제하지 않는가"를 검증할 사람이 필요해졌다.

에이전트 거버넌스: AI 보안 엔지니어의 통제 영역

Thu, 25 Jun 2026 00:00:00 +0000

이 분야가 중요한 이유

에이전트가 데모를 벗어나 실제 업무를 처리하기 시작하면서, 누군가는 그것을 통제해야 한다는 사실이 분명해졌다. 사람이 버튼을 누르던 자리에 이제는 스스로 도구를 호출하고, 데이터베이스를 조회하고, 송금을 승인하는 소프트웨어가 들어선다. 잘 돌아갈 때는 마법 같지만, 어긋나는 순간 책임 소재가 사라진다. 누가, 어떤 권한으로, 무슨 근거로 그 행동을 했는가. 이 질문에 답할 수 있는 체계가 없으면 규제 산업에서 에이전트는 배포 자체가 불가능하다.

2026년 들어 이 공백을 메우는 플랫폼이 쏟아졌다. 6월 23일 출시된 Zafin AIOS는 규제 금융권을 겨냥해 에이전트 작업을 오케스트레이션하고 거버넌스하는 엔드투엔드 플랫폼을 표방했고, 구글의 Gemini Enterprise Agent Platform, 마이크로소프트의 에이전트 거버넌스 툴킷(OWASP Agentic Top 10 대응)이 뒤를 이었다. Langfuse·Arize·AgentOps 같은 관찰성 도구는 에이전트가 어떤 도구를 누구의 권한으로 호출했고 결과가 무엇이었는지를 추적한다. 이 모든 것을 설계하고 운영하는 사람 — 그것이 에이전트 거버넌스 통제 영역의 엔지니어다. EU AI Act의 고위험 요건(로깅·인적 감독·기술 문서)이 2026년 8월 2일 발효되면서, 이 자리는 ‘있으면 좋은’ 것에서 ‘없으면 배포 불가’로 바뀌었다.

에이전트 데이터 유출 방지 엔지니어

Thu, 25 Jun 2026 00:00:00 +0000

1. 이 전문화에 대해

**에이전트 데이터 유출 방지 엔지니어(Agent Data Leakage Prevention Engineer)**는 자율 LLM 에이전트가 신뢰받아 다루는 비밀·내부 문서·개인정보를 외부로 흘리지 않도록 방어 장치를 만든다. 같은 AI 보안 직군이라도 레드팀이 공격으로 약점을 증명한다면, 이 전문화는 그 반대편에 선다. 가드레일을 설계하고, 컨텍스트를 격리하고, 에이전트가 내뱉는 출력에 DLP(데이터 유출 방지)를 건다.

문제의 무게는 ServiceNow가 2026년 6월 공개한 MosaicLeaks 벤치마크에서 그대로 드러났다. 로컬 기업 문서와 웹 검색을 함께 쓰는 딥리서치 에이전트 1,001개 멀티홉 체인을 측정했더니, 기본 모델(Qwen3-4B)이 외부 쿼리 로그만으로 사적 정보를 흘린 비율이 34.0%였다. 더 충격적인 건 그다음이다. 태스크 성능만 보고 강화학습으로 튜닝하자 정확도는 48.7%에서 59.3%로 올랐지만, 유출률은 51.7%까지 치솟았다. 잘하라고 가르쳤더니 더 많이 샜다. ServiceNow가 제안한 프라이버시 인식 학습(PA-DR)은 정답률 58.7%를 유지하면서 유출을 9.9%로 끌어내렸다 — 이 격차를 메우는 일이 바로 이 직군의 핵심이다.

AI 레드팀 전문가

Fri, 08 May 2026 00:00:00 +0000

1. 이 전문화에 대해

**AI 레드팀 전문가(AI Red Team Specialist)**는 LLM·AI 시스템을 실제 공격자의 시각으로 평가한다. Prompt injection, jailbreak, 모델 탈취(model extraction), 훈련 데이터 유출, 에이전트 체인 공격 등 AI 특유의 공격 벡터를 다루며, XBOW·Garak·PyRIT 같은 자동화 도구와 수동 분석을 결합한다.

Anthropic Mythos가 Firefox 150에서 271개 취약점을 발견한 2026년, 이 전문화의 수요가 폭발적으로 증가했다. AI가 보안 테스트를 하는 시대에, 그 AI 자체의 보안을 검증하고 AI 기반 공격 도구를 방어적으로 활용하는 사람이 필요해졌다.