마이크로소프트 AI Frontiers 종료, 연구와 스케일링의 충돌

들어가며

마이크로소프트 리서치의 AI Frontiers(AIF) 조직이 종료됐다. 창립 리더 중 한 명인 John Langford는 이 조직이 Microsoft AI에 편입된 뒤 자신이 회사를 떠났다고 밝혔다. 다른 창립 리더들도 비슷한 결론에 도달한 것으로 보인다. 다만 현재 공개된 자료의 핵심은 Langford의 개인적인 설명이며, 마이크로소프트가 내놓은 종합적인 공식 입장은 아니다. 따라서 이번 사건은 확정된 기업 발표라기보다 재편을 경험한 당사자의 분석으로 보는 것이 적절하다.

AI Frontiers는 왜 만들어졌나

Langford의 설명에 따르면 ChatGPT 출시 이후 연구 경쟁의 속도가 빨라지면서, 한 명의 연구자가 아이디어부터 계산 자원, 강력한 비교 기준까지 모두 준비하는 방식은 한계가 커졌다. 아이디어가 좋아도 실험을 충분히 빠르게 진행하지 못하면 결과가 늦게 나오거나, 아이디어의 가치를 설득력 있게 보여주기 어려웠다.

이에 따라 2023년 마이크로소프트 리서치 내부의 연구자들이 AIF를 만들었다. 목표는 완전한 하향식 지시도, 각 연구자에게 전적으로 맡기는 상향식 방식도 아니었다. 서로 관련된 연구를 조율하면서도 탐색과 논쟁의 여지를 남기는 중간 형태를 시도했다.

팀은 에이전트 분야에서 AutoGen 오케스트레이션 프레임워크와 컴퓨터 사용 에이전트 Fara 등을 개발했다. 뉴욕의 연구자들은 Next Latent 학습 목표, Dion3, 재귀를 활용해 모델의 능력을 높이는 Full Bandwidth Transformer 등 보다 근본적인 주제도 살폈다. 또한 마이크로소프트 리서치 전체와 공유할 수 있는 코드 저장소를 구축해 모델 개발 파이프라인과 연구 인프라의 재사용을 촉진하려 했다.

Microsoft AI 편입 뒤의 갈등

AIF는 9월 초 Microsoft AI로 재편됐다. 두 조직을 합치면 자원과 인력을 집중할 수 있다는 점에서 통합 자체는 합리적으로 보일 수 있다. 그러나 Langford는 실제 운영 과정에서 연구 철학의 차이가 크게 드러났다고 설명한다.

• 스케일링 중심: Microsoft AI는 모델, 데이터, 학습 운영을 키우는 데 집중했고 연구 주도의 혁신과는 거리가 있었다는 주장이다.
• 서로 다른 위험과 보상: 규모 확대는 성과를 예측하기 쉽지만, 연구는 불확실한 대신 효율이나 모델 능력을 크게 바꿀 수 있다.
• 제품 적용 경로 부족: AIF의 혁신이 새 조직에서 진지하게 평가되거나 실제 사용으로 이어질 경로를 찾기 어려웠다고 한다.
• 연구 조직에 대한 신뢰 약화: 좋은 연구가 지원과 활용으로 이어진다는 기대가 재편 과정에서 흔들렸다는 것이 Langford의 인식이다.

의미와 영향

AIF의 종료만으로 해당 연구 노선이 실패했다고 결론 내릴 수는 없다. 오히려 이 사건은 대형 AI 기업의 핵심적인 운영 과제를 보여준다. 초대형 모델을 학습하려면 엄격한 엔지니어링과 막대한 투자가 필요하지만, 학습 목표나 모델 구조를 바꾸는 연구 역시 장기적인 성능과 비용을 좌우할 수 있다.

학습과 추론 비용이 높아질수록 더 적은 자원으로 비슷한 능력을 구현하는 기술의 사업적 가치는 커진다. Langford는 Full Bandwidth Transformer 관련 실험을 사례로 들었지만, 제공된 자료만으로는 그 효과를 독립적으로 검증할 수 없다. 따라서 공개된 실험과 재현 가능한 비교가 뒤따라야 한다.

마이크로소프트가 풀어야 할 문제는 AIF라는 이름을 유지할지 여부가 아니다. 연구자가 자유롭게 탐색하면서도 성과를 제품과 대규모 시스템으로 연결할 수 있는 경로를 마련할 수 있는지가 핵심이다. 스케일링에만 집중하면 새로운 돌파구를 놓칠 수 있고, 연구에만 머물면 영향과 활용을 입증하기 어렵다. AIF의 종료는 이 두 목표를 동시에 달성하는 일이 여전히 쉽지 않다는 점을 보여주는 사례다.

출처: Hacker News