똑똑해지는 것과 우리가 원하는 대로 움직이는 것은 별개다
AI 정렬(AI alignment)은 강력한 AI가 인간이 실제로 원하는 목표와 가치에 맞게 행동하도록 만드는 문제다. 모델이 똑똑해질수록 “무엇을 시킬 수 있는가"보다 “무엇을 하도록 두어도 되는가"가 어려운 질문이 된다. 최근 DeepMind가 케임브리지 철학자 헨리 셰블린을 영입하고 Anthropic이 아만다 애스켈 같은 철학자를 핵심 팀에 넣은 이유가 여기 있다. 코드만으로는 “옳은 판단"을 정의할 수 없기 때문이다. 국내에서도 ETRI 산하 인공지능안전연구소(AISI)가 2024년 출범해 통제 상실 위험 완화와 편향 제거를 다루는 정렬 연구팀을 두면서, 비전공자에게도 열린 기술 진로가 만들어졌다.
기술과 철학이 반반씩 섞인 드문 직무
정렬 연구는 기술과 철학이 반반씩 섞인 드문 직무다. 기술 쪽에서는 트랜스포머 내부를 들여다보는 기계적 해석 가능성(mechanistic interpretability), RLHF와 Constitutional AI 같은 정렬 기법, 보상 모델 설계, 강화학습으로 인한 목표 일반화 분석이 핵심이다. 반대편에서는 논증을 해부하고 불확실성 아래에서 명료하게 사고하는 철학·윤리 훈련이 필수다. 국내 AISI는 AI 전문가만이 아니라 안전관리 전문가, SW 프레임워크 개발자까지 다양한 배경을 받아들인다. 파이썬과 딥러닝 실무 능력에 더해, 리스크를 비전문 이해관계자에게 설명하는 커뮤니케이션 역량이 실전에서 갈린다.
대학원 연구에서 시작하는 이유
진입은 대체로 철학·인지과학·컴퓨터공학 대학원 연구 경험에서 시작한다. 국내에서는 AISI, 네이버·카카오 등 대기업의 책임감 있는 AI(Responsible AI) 조직, 대학 연구센터가 첫 관문이다. 이후 정렬 연구원 → 시니어 연구원 → 연구 리드로 이어지며, 정책·거버넌스 트랙으로 빠지면 AI 윤리 책임자 자리까지 열린다. 글로벌 기준 정렬 연구직 초봉은 14만~23만 달러, 전문 기관은 그 이상이며 2023년 이후 급여가 45% 뛰었다. 국내 급여는 연구직 수준을 따르지만, AI안전이 규제 의제로 자리 잡으면서 수요가 빠르게 커지는 몇 안 되는 분야다.