賢くなることと、こちらの意図どおりに動くことは別の話だ
AIアライメントとは、強力なAIが人間の本当に望む目標や価値観に沿って動くようにする課題である。モデルが賢くなるほど、「何をさせられるか」よりも「何をさせてよいか」という問いが難しくなり、それはエンジニアリングであると同時に哲学の問題でもある。だからこそ最前線のAIラボは機械学習研究者と並んで職業哲学者を採用し始めた。Google DeepMindはケンブリッジの哲学者ヘンリー・シェブリンを迎え、Anthropicはアマンダ・アスケルを常任の哲学者に据えている。日本でもIPA傘下にAIセーフティ・インスティテュート（AISI）が設立され、安全性評価と倫理を軸にした研究が国の戦略として動き出した。
技術と哲学が半々で混ざる稀な職種
この職務は技術と哲学が半々で混ざる稀な仕事だ。技術面では、トランスフォーマー内部を解析する機械論的解釈可能性（mechanistic interpretability）、RLHFやConstitutional AIといったアライメント手法、報酬モデルの設計、強化学習による目標の一般化の分析が中核となる。一方で、論証を解きほぐし不確実性の下で明晰に考える哲学・倫理の訓練が欠かせない。多くの研究者は計算機科学・数学・哲学・認知科学の高度な学位を持つ。加えて、抽象的なリスクを非技術者の経営層に翻訳して伝える力が実務では大きく効いてくる。富士通がAI倫理室を置くように、日本企業でも社内に専門機能を設ける動きが進む。
この職がなぜ大学院研究から始まるのか
多くのアライメント研究者は、計算機科学・数学・哲学の博士課程での研究から入る。日本ではAISIや大学の研究センター、大手企業の責任あるAI（Responsible AI）部門が最初の入り口になる。2026年にはOpenAIが外部研究者向けの「Safety Fellowship」を新設し、安全性評価・倫理・エージェント監視を優先領域に掲げた。ここから研究員→シニア研究員→研究リードへと進み、政策・ガバナンスの道に入ればAI倫理責任者の役職も見えてくる。グローバル基準では初任給が14万〜23万ドル、専門機関はそれ以上で、2023年以降にAI安全の給与は約45%上昇している。日本でも規制議題化に伴い需要が着実に伸びている。