이 페이지에서
1. 이 전문화에 대해
**AI 레드팀 전문가(AI Red Team Specialist)**는 LLM, AI 시스템을 실제 공격자의 시각으로 평가한다. Prompt injection, jailbreak, 모델 탈취(model extraction), 훈련 데이터 유출, 에이전트 체인 공격 등 AI 특유의 공격 벡터를 다루며, XBOW, Garak, PyRIT 같은 자동화 도구와 수동 분석을 결합한다.
Anthropic Mythos가 Firefox 150에서 271개 취약점을 발견한 2026년, 이 전문화의 수요가 폭발적으로 증가했다. AI가 보안 테스트를 하는 시대에, 그 AI 자체의 보안을 검증하고 AI 기반 공격 도구를 방어적으로 활용하는 사람이 필요해졌다.
2. 핵심 스킬셋
기술 스킬:
- Prompt injection 및 jailbreak 기법 (OWASP LLM Top 10)
- 적대적 ML (MITRE ATLAS 프레임워크)
- LLM 기반 취약점 발견 도구 운영 (XBOW, ZeroPath, Garak, PyRIT)
- 전통 침투 테스트 (웹, API, 네트워크)
- Python 자동화, CI/CD 파이프라인 통합
- EU AI Act 고위험 AI 시스템 분류 및 컴플라이언스 평가
소프트 스킬:
- 공격자 사고방식(attacker mindset): 설계 단계에서 취약점 경로를 상상
- 기술 보고서 작성: 비기술 이해관계자에게 리스크를 전달
- 연구 능력: 새로운 공격 벡터를 지속적으로 추적
3. 커리어 경로
| 단계 | 직급 | 예상 연봉 (US 기준) |
|---|---|---|
| 진입 | AI Red Team Analyst / Junior AI Security Engineer | $60K~$100K |
| 미드레벨 | AI Red Team Engineer | $143K~$205K |
| 시니어 | Senior AI Security Engineer | $175K~$230K+ |
| 리드 | AI Red Team Lead | $200K~$300K+ |
4. 진입 로드맵
- 기초 확보: OWASP LLM Top 10 + MITRE ATLAS 독학. 무료.
- 도구 실습: Garak(LLM red team 오픈소스), PyRIT(Microsoft 오픈소스)으로 로컬 LLM 대상 PoC 포트폴리오 구축.
- 자격증: AWS Security Specialty + AWS ML Specialty 조합 (표준 진입 경로). ISACA AAIA(2026년 신설).
- 진입 포인트: 10a Labs, Scale AI (entry), Lakera, HiddenLayer (mid), Amazon AI Red Team, Microsoft Security (senior).
5. 관련 공모전, 이벤트
태그
#ai-red-team
#llm-security
#adversarial-ai
#pentesting
#xbow
#eu-ai-act