本文へ移動
テクノロジー Cybersecurity

AIセキュリティエンジニア (AI Security Engineer)

AIセキュリティエンジニアは、LLM・AIシステムの脆弱性を発見・防御する専門家だ。2026年、Anthropic MythosがFirefoxで271件の脆弱性を発見し、この職種は従来のセキュリティエンジニアリングとLLMエージェント活用能力を組み合わせた、最も急成長するサイバーセキュリティ専門職となった。

1 分で読める

学生のうちにできること

この職業が気になったら、ここから

レポートにある学生向けの活動です。やってみたいものを1つ選んでみましょう。

準備の全体像を見る
  • Pythonを学び、日常の面倒な作業を1つ自動化してみる

  • picoCTFやTryHackMeの無料ルームなど、初心者向けCTFで遊ぶ

家族で話してみる
  1. どの仕事が一番楽しそう?

    職業名よりも、具体的にすることを見てみよう。

  2. どんなところが大変そう?

    レポートの注意点と就職条件を一緒に読もう。

  3. 今週、何をやってみようか?

    活動を1つ選んで、やってみた感想を話そう。

まずはお子さんの話を聞いてみてください。興味のある職業は変わっても大丈夫です。

このページの内容

キャリアシグナル

この職業に入るとき、何が先に見られるか

学位
ふつう
ポートフォリオ
とても高い
資格
ふつう
インターン
ふつう
参入障壁
高い
採用の勢い
急増
AIの影響
ふつう

最初の一歩はこう

セキュリティアナリストやソフトウェアエンジニアとして数年働いてからAIセキュリティに移るのが一般的です。

AIセキュリティエンジニアとは

AIセキュリティエンジニアは、AI・LLMシステムの脆弱性を発見・防御し、自動化されたセキュリティテストパイプラインを設計・運用する専門家だ。従来のペネトレーションテストとLLMエージェント活用能力を組み合わせた、2026年最も急成長するサイバーセキュリティ職種である。

2026年にこの職種が独立して台頭した理由は明確だ。Anthropic MythosがファジングハーネスなしでゼロからFirefoxの271件の脆弱性を発見した、AIがセキュリティテストのボトルネックを構造的に除去したという証明だ。その結果、XBOWは$1.55億シリーズCでユニコーンとなった。規制も、この仕事を担う人材を求めている。EU AI Actは、システミックリスクを伴う汎用AIモデルの提供者に、敵対的テスト(レッドチーム)を実施し、その過程を記録するよう義務付けている。この条項は2025年8月2日から適用されている(第55条)。

なぜ今この職種なのか

  • EU AI Actの原則適用(2026年8月2日)と高リスクAIの義務の延期: 同法の原則適用日は2026年8月2日だ。ただし、2026年7月27日に発効した改正規則(デジタルオムニバス、規則2026/1744)により、高リスクAIに関する義務の適用は、附属書IIIの分野に該当するAIでは2027年12月2日、附属書Iの製品に組み込まれるAIでは2028年8月2日に延期された。義務の適用後は、高リスクAIは、権限のない第三者が脆弱性を悪用して用途、出力、性能を変えようとする試みに耐えなければならない(第15条第5項)。禁止行為に違反した場合、最大3,500万ユーロまたは世界全体の年間売上高の7%のうち、いずれか高い額の制裁金が科される。
  • LLMベースの自動脆弱性発見ツールの普及: XBOW、ZeroPath、Pixeeなどがエンタープライズに浸透。
  • 賃金プレミアム: ZipRecruiter 2026年4月平均$152,773。PwCレポート: AIスキル保有職種に56%の賃金プレミアム。
  • 人材不足: WEF 2025: 86%の組織が必要なサイバーセキュリティ人材が不足と回答。

ウォーターマークもセキュリティ試験の対象になった

2026年8月2日から、EU AI Act第50条第2項の適用が始まった。テキスト、画像、音声、動画を生成するAIの提供者は、出力に機械可読のマークを付け、AIが生成したものだと検出できるようにしなければならない。同法は、技術的に可能な範囲で、この技術が有効性、相互運用性、堅牢性、信頼性を備えるよう定めている。8月2日より前に市場に投入されたシステムは、2026年12月2日までに対応すればよい。違反した場合、最大1,500万ユーロまたは世界全体の年間売上高の3%のうち、いずれか高い額の制裁金が科される(中小企業は、いずれか低い額)。

大手AI企業も対応に動き出した。2026年10月5日、OpenAIはこの条項に対応するため、EU域内のChatGPTとCodexのテキスト出力に、今後数週間かけて目に見えないウォーターマークを導入すると発表した。textGrainというこの手法は、モデルが単語を選ぶ際に統計的なシグナルを埋め込み、検出器がそのシグナルを探す仕組みだ。セキュリティエンジニアが注目すべきなのは、OpenAIが同時に公開した試験結果である。400トークンの文章で単語の10%を同義語に置き換えると、検出率は約92%から66%に下がり、25%を置き換えると17%まで下がった。OpenAIは、短い文章や翻訳された文章も検出が難しいと説明した。そのため、検出器は当面、承認された研究者と専門機関に限って公開した。何度か編集した後にマークがどれだけ失われるか、マークのない文章をAIが生成したものだと誤認するケースがどれだけ生じるかが、第50条のいう堅牢性を測る基準となる。

ウォーターマークがモデルの振る舞いまで変えるという研究も発表された。2026年9月17日、セキュリティ企業のLasso Securityは、Google DeepMindのSynthID-TextをHugging Faceの実装に変更を加えずにオープンウェイトモデルへ適用し、ウォーターマークの有効時と無効時を比較した結果を公表した。ツール呼び出しの試験では、7モデル中6モデルで精度が下がった。有害な要求に単純なプロンプトインジェクションを加えると、通常なら拒否する要求にも答えやすくなったモデルが複数あった。研究チームは、ウォーターマークを新たに有効にするときや、設定やキーを変更するたびに、実際のデプロイ設定でエージェント評価とレッドチーム試験をやり直すよう勧めている。

この二つの結果を合わせると、この職種の試験項目に二つが加わる。一つは、編集や翻訳を経てもマークが残るか、誤検出がどれだけ起きるかを測ることだ。もう一つは、ウォーターマークの有効時と無効時に同じ入力を与え、拒否の振る舞いやツール呼び出しが変わるかを比較することだ。規制が求めるマークと、モデルの安全性に関わる振る舞いを、併せて試験できる人材が必要になった。

この職種に向いている人

  • セキュリティエンジニアリングの基礎があり、LLMツールを自然に扱える人
  • 攻撃者の視点からシステムを見ることが好きな人
  • 敵対的攻撃(Adversarial Attack)に興味があるML/AIエンジニア
  • PythonとスクリプトによるAuto化に慣れた人

専門分野

セキュリティアラートをコードで管理する検知・対応エンジニア

AI製品を売る会社4社が9月28日以降、検知・対応エンジニアの求人を新たに出した。検知ルールと対応ツールをコードで作り、オンコールを担い、LLMで対応作業を減らすセキュリティの専門職だ。

エージェント基盤の悪用対策: 利用者のエージェントから基盤を守る仕事

エージェントがコードを書き配備まで行う基盤で、その実行能力を悪用する利用者を止める新しい専門分野。不正検知、資源の盗用防止、アカウント悪用対応が一つの職務に集まりつつある。

AIエージェントセキュリティ:本番環境で自律エージェントを守る専門家

本番環境で自律LLMエージェントを安全に運用するAIセキュリティエンジニアの新専門領域。ランタイム権限スコーピング・MCPツール権限のハードニング・プロンプトインジェクション防御・エージェント実行のサンドボックス化が核。

クライアントサイド・スキャニング・セキュリティ:AIセキュリティエンジニアの新たな最前線

EUのチャットコントロール採決によりオンデバイスのコンテンツスキャンが規制課題となり、プライバシーを守りつつスキャンできるエンジニアの需要が急増。必要スキルとキャリアパスを整理。

AIアライメント研究:AIセキュリティエンジニアの新領域

哲学・倫理と機械学習を結び、先端AIを人間の価値に合わせるAIアライメント研究者のキャリアガイド。日本のAISI設立で開かれた新しい進路。

フィジカルAIセキュリティ:ロボットを守るAIセキュリティエンジニア

ロボット・自動運転・組込みAIハードウェアを狙う攻撃を防ぐフィジカルAIセキュリティエンジニア。ファームウェア・ROS/DDS・無線プロビジョニングを守り、ハッキングを物理的危害にさせない。

AI採用公平性監査:AIセキュリティエンジニアの新領域

AI採用システムのバイアスとアルゴリズム・モノカルチャーを監査する新しいキャリア。Stanford HAIが示した差別リスクが需要を生む。

エージェントデータ漏洩防止エンジニア

自律型LLMエージェントが託された機密や内部コンテキストを外部に漏らさないよう、ガードレール・コンテキスト分離・出力DLPを設計する防御専門分野。MosaicLeaks・AgentDojo準拠。

エージェントガバナンス:AIセキュリティエンジニアの統制領域

本番環境で自律AIエージェントを統制するAIセキュリティエンジニアの新専門領域。ポリシー強制・エージェント識別・可観測性・監査証跡が核、EU AI法に対応。

AIレッドチームスペシャリスト

LLMおよびAIシステムを攻撃者の視点で評価し、自動化ツール(XBOW、ZeroPath、Garakなど)と手動分析を組み合わせて脆弱性を発見するAIレッドチームスペシャリストのキャリアガイド。

詳細キャリアレポート

この職業、本気で目指すなら

こんな人に向いてる

  • ✓壊しながら仕組みを解き明かすことにワクワクする(攻撃者視点)
  • ✓Pythonが得意で、繰り返し作業の自動化が好き
  • ✓セキュリティの基礎とAI・LLMツールを両方いじるのが楽しい
  • ✓毎月新しい攻撃やツールが出てくる変化を面白がれる

覚悟しておくこと

  • !新卒枠はほぼない、多くは広めのセキュリティ・開発職を経てこの分野に専門化する
  • !誇大宣伝が多い、実際に使えるツールと張りぼてを見分けるのに結構時間を使う
  • !コンプライアンスや書類仕事(EU AI Act・報告書・文書化)が映画のイメージよりずっと多い
  • !スキルの寿命が短い、今の知識は1〜2年で古くなりうる

段階別 準備ロードマップ

中高生のうちに

  • Pythonを学び、日常の面倒な作業を1つ自動化してみる
  • picoCTFやTryHackMeの無料ルームなど、初心者向けCTFで遊ぶ
  • 小さなホームラボ(またはブラウザのサンドボックス)でテスト用アプリを安全に壊してみる

大学・初期

  • CSかセキュリティを専攻し、ネットワーク・OS・暗号学を履修する
  • 実践型の資格(Security+ → eJPT/OSCP)を取り、HackTheBox・TryHackMeで手を動かす
  • AIセキュリティも学ぶ、OWASP Top 10 for LLMやgarakなどのツールを自分のアプリで試す

就職準備

  • 公開ポートフォリオを作る、CTFのwrite-up、CVE、HackerOne・Bugcrowdでのバグバウンティ成果
  • SOCアナリスト・セキュリティエンジニア・ペンテストのインターンでまず足がかりを得て専門化する
  • 脆弱性を分かりやすく説明する練習を、エクスプロイトより明快なレポートが面接を制する

おすすめの専攻・分野

コンピュータサイエンスサイバーセキュリティ / 情報セキュリティコンピュータ・ネットワーク工学機械学習 / AI(敵対的ML方面)

資格・試験・ポートフォリオ

CompTIA Security+ → OSCP(攻撃側)または入門のeJPT公開の実績:バグバウンティ、CVE、CTFのランキング、HackTheBoxのプロフィールLLMセキュリティツール(garak、PyRIT)の実践 + OWASP Top 10 for LLM

伸ばすべき素養

資格の外で結果を分ける力、今から積めるもの

攻撃者の目で経路を描く力

脆弱性のリストを暗記した人よりも、初めて見るシステムで「入力がどこから入り、どこまで届くか」を先に描ける人が、新しい技術の前でも生き残る。LLMのように毎年姿を変える対象では、覚えたリストはすぐ古びるが、この図を描く習慣は長く効く。毎日使っているアプリを一つ選び、利用者が文字を入力できる場所をすべて洗い出し、その文字が最終的にどこへ保存され誰に見えるのかを書き出すところから始める。

警告の山から本物だけを選ぶ

自動スキャナーやAIツールは大量の警告を出すが、その多くは実際には悪用できないものだ。一つずつ確かめて本物だけを残せないと、開発チームはやがてセキュリティの指摘を無視するようになり、その時点でこの仕事は力を失う。自分で作ったWebプロジェクトに無料のスキャナーをかけ、警告を十個取り出して、それぞれが本当に攻撃につながるか手で確かめるのが一番早い訓練になる。

何から直すかを示す根拠

セキュリティが見つけた問題を全部直す時間はどの会社にもなく、何を今週直し何を来期に回すかを決めることが実務になる。この順番を根拠なく決めると、些細なものを直している間に大きな穴が開いたまま残る。自分のプロジェクトで見つけた問題を、悪用の難しさとやられたときの損害という二軸で表に並べてみると、根拠の示し方が身につく。

触れてよい線を守る感覚

許可を得ていないシステムに手を出した瞬間、その技術は経歴ではなく前科になり、この線を守ってきた記録がそのまま採用時の信頼になる。実力が同じなら、企業は他人のシステムの前で止まれる人を採る。picoCTFや自分で作った環境、そしてバグバウンティが文書で示した範囲の中だけで練習し、その文書の許可事項と禁止事項を自分の手で書き写す習慣を今からつける。

現実のアドバイス

実際の一日は映画のようなハッキングよりも、コードを読み、自動スキャナーを回し、検出結果を仕分けし、エンジニアが本当に直せるように脆弱性を分かりやすく文書化する作業に近い。仕事の大半は、本物の脆弱性と誤検知(フォルスポジティブ)を見分け、承認を取り付け、コンプライアンスのために記録を残すことだ。純粋なAIセキュリティの職は初心者には少なく、最初の1〜3年はより広い役割でセキュリティの基礎を積んでから専門化することになり、ツールが数か月ごとに変わるので学び続けることになる。

まず読む本

一部アフィリエイトリンクを含む場合があります

講座・動画

タグ

#ai-security #llm-security #red-team #vulnerability-discovery #cybersecurity #pentesting

さあ、始めよう!

上で紹介した人たちも、みんな君と同じところからスタートしたんだ。今日、一つだけやってみよう!

気になる職業が見つかった?

向いている性格、専攻、就職要件を比べてみよう。

ほかの職業と比較

関連する職業

関連する記事