この分野が重要な理由

いまの本番エージェントは単一プロンプトで動かない。検索モジュール、ツール呼び出しモジュール、安全ガード、要約器、複数のサブエージェントを、システムプロンプトとツール定義として一つのコンテキストに何層も積み重ねて組み立てる。問題は、こうして繋ぎ合わせると、あるモジュールに与えた指示が隣のモジュールへ漏れ出すことだ。2026年6月にarXivへ投稿された「Instruction Bleed: Cross-Module Interference in Prompt-Composed Agentic Systems」(2606.26356) はこの現象を正面から扱う。あるモジュールに「簡潔に答えよ」と書くと、本来無関係なはずの安全検証モジュールまで検査を雑に飛ばし始める。デモでは問題なかったエージェントが本番で説明のつかない失敗を出す原因の多くは、まさにここにある。

根本原因は、LLMがすべてのテキストをほぼ同じ重みで読むことだ。OpenAIが「The Instruction Hierarchy」で指摘したとおり、モデルは開発者のシステムプロンプトとユーザー入力、ツール出力を本来同じ優先度で扱う。モジュールが増えるほど、どの指示がどれを侵すのかの制御が難しくなり、一行の追加がシステムの反対側で回帰を引き起こす。だからモデルを大きくする仕事とは別に、組み立てられたシステムが意図どおり隔離されて動くかを保証する役割が分かれて生まれた。これがエージェント信頼性エンジニアだ。モデルの精度ではなくシステムの信頼性を守る人であり、マルチモジュールのエージェントが標準となったいま、急速に専任職へと固まりつつある。

必要なスキル

この仕事は、SRE的な信頼性エンジニアリングの感覚の上に、LLMシステム特有の非決定性の制御を重ねた交差点にある。ツールを作る仕事でも、オーケストレーションを組む仕事でもない、組み立てられたモジュール同士が互いを汚染しないよう境界を引き、その境界が守られているかを延々と測る仕事だ。

• プロンプトモジュールの隔離。 システムプロンプト、ツール定義、サブエージェントの指示を一つのコンテキストに押し込まず、明確な境界で分ける。どの指示がどの範囲まで有効かを設計し、無関係なモジュールが互いのトーン・ポリシー・制約を引き継がないようにする。
• 指示スコープと権限。 信頼されたシステム指示、ユーザー入力、ツールが返したテキストの権限階層を分離する。インストラクション・ハイアラーキーの概念を実際のプロンプト構造へ翻訳し、低権限のテキストが高権限のポリシーを上書きできないようにする。
• 干渉評価ハーネス。 モジュールAの指示を変えるとモジュールBの挙動が揺れるのを自動で捕まえる回帰スイートを組む。ゴールデンセット・シナリオ・敵対的ケースをCIに繋ぎ、一行のプロンプト修正が離れたモジュールを壊した瞬間に赤信号が灯るようにする。
• ランタイムガード。 デプロイ後も走る防御線を置く。指示の漏れが疑われる出力の遮断、ポリシー違反の検知、モジュール境界を越える異常挙動へのサーキットブレーカーとロールバックを仕掛ける。
• 可観測性。 すべてのモジュール呼び出しと指示注入点をトレースする。障害が起きたとき、どのモジュールのどの指示がどこへ漏れたかを事後に読み解けなければならない。

キャリアパス

需要は明確だが供給は薄い。デモまでエージェントを作った人は多くても、数十のモジュールが絡む本番システムを信頼性の観点でデバッグした人は稀だ。「デモは動くのに、モジュールを一つ足したら無関係な場所が壊れる」を説明し防げるかどうかが採用の核心になる。だから平凡なバックエンドでも純粋なMLリサーチャーでもない中途半端な交差点、SRE・プラットフォーム経験にLLMシステムの感覚を足したミドル〜シニアが重心だ。新卒一括採用と年功の文化が残る日本でも、この役割は経験者採用の即戦力枠として求められ始めている。

入り口は二つある。SRE・プラットフォーム・信頼性エンジニアから出発し、社内のエージェント基盤を任されて非決定性の制御へ移るか、AIエンジニアリングやプロンプトの側から評価とランタイム安全のレイヤーへ降りてくるか。肩書はまだ固まっておらず、Agent Reliability Engineer、AI Reliability Engineer、Agent Safety Engineerなどに散らばっている。スキルが希少なため、同等職のSWEより10〜20%上を積む企業が増えている。エージェントを本番に載せた組織なら、この役割はもはや任意ではなくプラットフォームチームの正式な責務になった。

最も速い検証法は、自分で壊してみることだ。三つか四つのモジュールから成る小さなエージェントを作り、一つのモジュールにわざと強い指示を入れ、他のモジュールの出力がどう汚染されるかを測る。次に隔離とスコープを直し、干渉回帰スイートをCIに繋ぎ、出力にランタイムガードを掛ける。この一周を回した経験が、履歴書のどんなキーワードより強い。