1. 이 전문화에 대해

**AI 레드팀 전문가(AI Red Team Specialist)**는 LLM·AI 시스템을 실제 공격자의 시각으로 평가한다. Prompt injection, jailbreak, 모델 탈취(model extraction), 훈련 데이터 유출, 에이전트 체인 공격 등 AI 특유의 공격 벡터를 다루며, XBOW·Garak·PyRIT 같은 자동화 도구와 수동 분석을 결합한다.

Anthropic Mythos가 Firefox 150에서 271개 취약점을 발견한 2026년, 이 전문화의 수요가 폭발적으로 증가했다. AI가 보안 테스트를 하는 시대에, 그 AI 자체의 보안을 검증하고 AI 기반 공격 도구를 방어적으로 활용하는 사람이 필요해졌다.

2. 핵심 스킬셋

기술 스킬:

• Prompt injection 및 jailbreak 기법 (OWASP LLM Top 10)
• 적대적 ML (MITRE ATLAS 프레임워크)
• LLM 기반 취약점 발견 도구 운영 (XBOW, ZeroPath, Garak, PyRIT)
• 전통 침투 테스트 (웹·API·네트워크)
• Python 자동화, CI/CD 파이프라인 통합
• EU AI Act 고위험 AI 시스템 분류 및 컴플라이언스 평가

소프트 스킬:

• 공격자 사고방식(attacker mindset): 설계 단계에서 취약점 경로를 상상
• 기술 보고서 작성: 비기술 이해관계자에게 리스크를 전달
• 연구 능력: 새로운 공격 벡터를 지속적으로 추적

3. 커리어 경로

4. 진입 로드맵

1. 기초 확보: OWASP LLM Top 10 + MITRE ATLAS 독학. 무료.
2. 도구 실습: Garak(LLM red team 오픈소스), PyRIT(Microsoft 오픈소스)으로 로컬 LLM 대상 PoC 포트폴리오 구축.
3. 자격증: AWS Security Specialty + AWS ML Specialty 조합 (표준 진입 경로). ISACA AAIA(2026년 신설).
4. 진입 포인트: 10a Labs, Scale AI (entry), Lakera, HiddenLayer (mid), Amazon AI Red Team, Microsoft Security (senior).

5. 관련 공모전 · 이벤트