키미 재설계에 기여한 10대 연구자 퇴사
인공지능 모델의 각 층 사이에 정보를 전달하는 새로운 방식을 개발하는 데 기여한 17세 연구자 천광위는 2026년 10월 15일 키미를 만든 중국 기업 문샷AI를 떠났다고 발표했다. 그는 16세였던 2025년 11월 문샷의 연구팀에 합류했다.
목차
해외에서는 네이선 천으로 알려진 선전 출신의 이 10대 연구자는 구체적인 연구 성과를 남기고 떠난다. 2026년 3월 16일 발표된 논문 ‘어텐션 레지듀얼스’의 공동 제1저자로 문샷 연구자 장위, 쑤젠린과 함께 이름을 올렸다. 키미 K3에도 이 기법이 적용됐다고 모델의 7월 출시를 다룬 보도들은 전했다.
문샷이 공개한 실험 결과를 보면 그의 나이에 쏠린 관심보다 연구 성과를 더 구체적으로 파악할 수 있다. 연구진은 매개변수 480억 개 규모의 키미 리니어 모델을 대상으로 한 시험에서 평가한 모든 과제의 성능이 향상됐다고 기록했다. 블록 어텐션 레지듀얼스 방식은 연산량을 1.25배 사용한 기존 모델과 같은 학습 손실을 달성했다.
천의 퇴사는 앤트로픽의 공개 영입 제안, 구글 출신 연구자들이 세운 스타트업을 둘러싼 추측, 그리고 각각 약 100만 달러 이상의 연봉을 제시하는 일자리 5곳을 제안받았다는 익명의 10대와 그를 연결하려는 움직임으로 주목받았다.
하지만 천은 앤트로픽에 합류한다는 주장을 공개적으로 부인했다. 다음 직장과 보상 조건, 대학으로 돌아갈지 여부는 아직 확인되지 않았다.
천은 작별 인사에서 문샷에서 보낸 시간을 돌아보고 자신을 채용한 사람들에게 감사를 전했다. 퇴사를 앞둔 머신러닝 연구 인턴은 이렇게 말했다.
지난 1년은 제 인생에서 가장 좋았던 시간이었습니다.
그의 메시지는 다음 행선지를 밝히는 대신 계속 탐구하고 싶다는 바람으로 끝났다.
천이 연구에 기여한 내용
키미 연구팀의 어텐션 레지듀얼스 보고서에는 천의 이름이 장, 쑤와 함께 공동 기여자로 올라 있다. 이는 세 사람 모두 더 큰 연구팀의 작업을 이끄는 데 핵심적으로 기여했음을 뜻한다.
회전 위치 임베딩, 즉 RoPE 연구로 알려진 쑤가 초기 실험을 진행했다. RoPE는 언어 모델이 단어나 기타 정보 조각이 문장 안에서 어디에 나타나는지 추적하도록 돕는다. 장은 키미 리니어 아키텍처 연구의 제1저자였다.
쑤는 초기 어텐션 레지듀얼스 아이디어를 대규모 모델에 적용할 수 있는 형태로 발전시키는 데 장과 천이 기여했다고 밝혔다. 두 사람은 대규모 적용에서도 이점은 유지하면서 메모리와 통신 부담을 줄이도록 설계한 블록 어텐션 레지듀얼스, 즉 블록 어텐레스를 공동 제안했다.
천은 키미 델타 어텐션(KDA)의 연산 커널 가속 작업에도 참여했다. 커널은 그래픽처리장치에서 특정 계산을 수행하는 작은 프로그램이다. 이를 개선하면 같은 하드웨어로 작업을 더 빠르게 마칠 수 있다.
따라서 그의 작업은 서로 연결된 두 분야에 걸쳐 있었다. 모델을 어떻게 설계할지 정하는 일과 그 설계에 필요한 계산을 효율적으로 실행하는 일이었다. 대규모 모델을 학습하는 연구소에서는 두 가지 모두 정해진 연산 예산으로 얼마나 많은 연구를 수행할 수 있는지에 영향을 준다.
어텐션 레지듀얼스가 모델을 바꾸는 방식
언어 모델은 여러 층을 거치며 정보를 처리한다. 각 층은 입력받은 정보를 변환하고, 이후 층이 답을 예측하는 데 사용하는 표상을 만들어낸다.
표준 잔차 연결은 층의 출력을 서로 더해 초기 정보를 처리 과정에 계속 전달한다. 문샷의 공식 연구 저장소는 이 방식의 문제를 설명한다. 모델이 깊어질수록 정보가 반복해서 누적돼 개별 기여가 희석되고 내부 신호의 크기가 커질 수 있다는 것이다.
어텐션 레지듀얼스는 고정된 누적 방식 대신 학습을 통해 정보를 선택한다. 이후 층은 현재 입력에 따라 앞선 층에서 나온 정보에 서로 다른 가중치를 부여할 수 있다. 앞 장의 모든 메모를 똑같이 들고 가는 대신, 독자가 가장 유용한 메모를 골라 참고하는 것에 비유할 수 있다.
앞선 각 층에 이 선택 방식을 개별 적용하면 그 자체로 비용이 발생한다. 블록 어텐레스는 층을 그룹으로 묶고, 각 그룹 안에서는 일반적인 덧셈을 유지한 뒤 그룹별 표상 가운데 필요한 정보를 선택한다. 저장소에 따르면 그룹을 약 8개로 나누면 전체 방식의 이점을 대부분 얻을 수 있다.
논문에 소개된 가장 큰 키미 리니어 구성은 층 54개를 한 번에 6개씩 묶었다. 9개 그룹과 초기 토큰 표상을 합쳐 선택 대상 정보원은 10개였다. 이 실용적인 엔지니어링 단계가 아이디어를 실험에서 대규모 모델 학습으로 옮기는 데 도움을 줬다.
공개된 연구 결과
3월 논문은 총 매개변수 480억 개 가운데 처리 과정에서 30억 개를 활성화하는 키미 리니어 모델에 어텐션 레지듀얼스를 적용해 시험했다. 매개변수는 모델 안에서 학습되는 수치 설정값이다. 일부만 활성화하면 학습된 지식이 담긴 큰 저장소를 활용하면서도 각 단계의 계산량을 제한할 수 있다.
학습에는 모델이 처리하는 텍스트나 기타 데이터 조각인 토큰 1조4000억 개가 사용됐다. 연구진은 모델의 다른 주요 아키텍처 구성 요소는 그대로 둬 어텐션 레지듀얼스를 추가했을 때 기준 설계와 어떻게 달라지는지 비교했다.
어려운 과학 문제를 평가하는 GPQA-다이아몬드 점수는 36.9에서 44.4로 7.5포인트 올랐다. 코드 생성 능력을 측정하는 휴먼이밸 점수는 59.1에서 62.2로 상승했다. 폭넓은 지식 벤치마크인 엠엠엘유 점수는 73.5에서 74.6으로 높아졌다.
연산량 비교도 의미가 있다. 연산을 1.25배 사용하는 기준 모델과 같은 수준의 학습 손실에 도달했다는 것은 기준 모델 예산의 5분의 4, 즉 연산량을 20% 줄여 같은 결과를 냈다는 뜻이다. 학습 손실은 학습 중 모델의 예측이 정답과 얼마나 차이가 나는지를 측정한다.
문샷은 K3에 적용된 이 기술이 추가 부담을 2% 미만으로 억제하면서 학습 효율을 약 25% 높였다고 별도로 설명했다. 3월 실험과 이후 K3 관련 주장은 서로 다른 모델 설정에 관한 것이다. 위에 제시한 상세 벤치마크 수치는 키미 리니어를 대상으로 한 결과다.
학교 해커톤에서 연구팀까지
천은 2009년 선전에서 태어났다. 문샷에 합류하기 전에는 10대 오픈소스 커뮤니티를 조직하고 소프트웨어 봇을 개발했으며 AI 안전성부터 물리학까지 다양한 분야에 관심을 보였다.
대학 지원을 준비하던 중 흥미를 느끼지 못한 활동 일부를 중단하고 관심 있는 분야를 읽기 시작했다. 이후 독학과 공개 기술 글쓰기, 현업 연구자들과의 교류를 통해 연구 분야로 진입했다.
2025년 2월에는 추가 로봇 보조 팔을 구상한 프로젝트 ‘서드암’으로 중고등학생 대상 문샷AI 해커톤에 참가했다. 그곳에서 미라클플러스 창립팀 소속인 둥커한을 만나 첨단 기술에 집중해보라는 조언을 들었다.
이후 델타넷에 관한 기술 게시물을 올리자 연구자 양쑹린이 답글을 달았다. 대화는 캘리포니아주 팰로앨토의 스타트업 틸드 리서치에서 일하는 벤 케이그윈에게까지 이어졌고, 회사의 연구를 논의하는 자리가 마련됐다. 2025년 7월 천은 16세에 홀로 그곳으로 가 7주간 인턴으로 일했다.
천은 제미나이와 논문을 몇 시간씩 토론하고, 이해하기 어려운 구절을 캡처해 추가 질문을 하는 방식으로 공부했다. 코드와 블로그, 연구자 웹사이트도 읽었고 중요한 선택을 앞두고 딥시크 연구자 위안징양에게 조언을 구했다.
그의 경험은 챗봇을 과외 교사처럼 활용한 데 그치지 않는다. 공개 글쓰기로 기술적 사고를 드러내자 연구자들이 반응했고, 인턴십을 통해 그 생각을 공동 작업으로 발전시킬 기회를 얻었다.
빠른 성장의 주요 일정
천은 학교 프로젝트에서 국제 인턴십을 거쳐 2년도 채 되지 않아 모델 연구 논문을 발표했다. 어텐션 레지듀얼스가 주요 키미 모델 출시에 적용된 뒤 문샷을 떠났다.
- 2025년 2월: 천이 중고등학생 대상 문샷 AI 해커톤에 참가했다.
- 2025년 7월: 팰로앨토의 틸드 리서치에서 7주간 인턴십을 시작했다.
- 2025년 11월: 16세에 머신러닝 연구 인턴으로 문샷의 키미 팀에 합류했다.
- 2026년 3월 16일: 어텐션 레지듀얼스 기술 보고서가 발표됐으며 천, 장, 쑤가 공동 기여자로 이름을 올렸다.
- 2026년 6월: 천이 고등학교를 졸업했다.
- 2026년 7월: 어텐션 레지듀얼스를 아키텍처 기술 가운데 하나로 적용한 키미 K3가 출시됐다.
- 2026년 10월 15일: 천이 문샷을 떠났다고 발표했다.
- 2026년 10월 16일: 앤트로픽에 합류한다는 추측을 부인했다.
- 2026년 10월 20일: 익명 계정이 천의 디스커버리 루프 합류를 주장했다.
공개된 학력 이력에는 2026년 8월과 9월 카네기멜런대에 재학한 기록도 있다. 짧은 재학 기간은 다음 단계가 취업인지 학업인지에 관한 추측의 일부가 됐다.
앤트로픽의 영입 제안과 100만 달러 보수설
앤트로픽에서 확장 가능한 강화학습 연구를 이끄는 숄토 더글러스는 천의 작별 게시물에 댓글을 달았다. 천이 여전히 카네기멜런대에 진학할 계획인지 물으며 샌프란시스코에서 함께 일하자고 제안했다.
천은 베이 에어리어로 향한다고 답했다. 이 대화로 앤트로픽에 합류했다는 추측이 나오자 짧게 부인했다.
아니요 :)
연봉 논의는 별도로 시작됐다. 멘로벤처스의 투자자 디디 다스는 언어 모델의 도움을 받아 AI를 독학하고, 선도적인 AI 기업에서 약 1년간 인턴으로 일한 뒤 미국의 높은 순위 학부 과정에 진학했지만 2주 만에 그만둔 익명의 17세 청소년을 만났다고 전했다.
다스에 따르면 이 청소년은 샌프란시스코의 유수 AI 연구소 5곳에서 각각 약 100만 달러 이상의 가치를 지닌 제안을 받았다. 다스는 이 청소년이 돈보다 배움을 우선시한다고도 전했다.
소셜미디어 이용자들은 나이와 연구 이력을 근거로 이 설명을 천과 연결했다. 다스는 청소년의 이름을 밝히지 않았고, 천도 해당 제안이 자신에게 온 것이라고 확인하지 않았다. 따라서 이 논의의 초점은 천의 공개된 고용 계약이 아니라 익명의 인물이 받았다는 제안에 있다.
더글러스의 공개 초대는 관심을 보여주는 보다 구체적인 신호다. 고위 연구자가 천에게 함께하자고 공개적으로 권했다. 이후 천이 이를 부인하면서 앤트로픽 합류설에도 직접 답했다.
디스커버리 루프가 거론된 이유
AI 업계 인력 이동을 추적하는 익명 계정 ‘아푸르 그록’이 10월 20일 천이 디스커버리 루프에 합류했다고 주장하면서 다음 관심이 이 회사로 옮겨갔다. 천은 합류 사실을 확인하지 않았고, 스타트업 측은 인사 문제에 대한 논평을 거부했다.
디스커버리 루프는 구글 출신 연구자 제프 딘, 산자이 게마왓, 르꾸옥, 오리올 비냘스가 2026년 8월 설립했다. AI를 활용해 아이디어 제안, 실험 수행, 결과 분석을 포함한 과학 및 머신러닝 연구를 자동화하는 것이 회사의 목표다.
효율적인 모델 설계에 관심을 둔 연구자라면 익숙한 기술적 과제를 다루게 될 수 있다. 많은 연구 실험을 수행하는 시스템은 연산 자원을 효율적으로 써야 하며, 알고리즘이나 커널을 개선하면 고정된 예산으로 더 많은 실험을 할 수 있다.
디스커버리 루프의 자금 조달도 관심을 끌었다. 보도에 따르면 회사는 9월 기업가치 약 500억 달러를 기준으로 투자 유치를 추진했다. 불과 몇 주 전 거론된 약 100억 달러에서 5배 오른 규모다. 이 수치는 투자 유치 논의 과정에서 제시된 기업가치를 가리킨다.
천은 틸드 리서치에서 일한 경험으로 베이 에어리어와도 기존 인연이 있다. 앞선 인턴십을 고려하면 캘리포니아행이 한 곳의 뚜렷한 행선지보다 여러 업계 인사와의 만남으로 이어질 가능성도 설명할 수 있다.
천의 퇴사가 문샷에 남긴 것
16세 천의 채용을 지원했던 문샷 연구자 두위룬은 퇴사 결정을 놓고 두 사람이 여러 차례 긴 대화를 나눴다고 말했다. 두는 슬픔을 표하면서도 천이 젊은 나이에 새로운 관심사를 탐구하려는 뜻을 지지했다.
천의 기여는 팀의 연구 성과로 남아 있다. 매개변수 2조8000억 개 규모로 7월 출시된 키미 K3에는 어텐션 레지듀얼스와 키미 델타 어텐션이 함께 적용됐다. 두 기술은 정보 처리의 서로 다른 부분을 다룬다. 어텐레스는 모델의 깊이를 따라 정보가 이동하는 방식을 바꾸고, KDA는 시퀀스를 효율적으로 처리하도록 돕는다.
문샷은 아키텍처 변경, 학습 방식, 데이터 선택이 함께 작용해 K3의 스케일링 효율이 K2보다 약 2.5배 개선됐다고 밝혔다. 이는 천의 연구가 여러 연구자와 다양한 기술 변경이 참여한 더 광범위한 회사의 노력에 포함된다는 점을 보여준다.
실질적인 의미는 이례적으로 젊은 직원의 경력에 그치지 않는다. 더 효율적으로 학습하는 모델은 값비싼 프로세서와 연구 예산을 더 잘 활용할 수 있다. 수학적 설계와 빠른 구현을 연결할 수 있는 연구자는 이 목표에 직접 기여할 수 있다.
천은 논문으로 발표된 연구 성과, 두 연구 환경에서의 경험, 또 다른 유수 연구소의 공개적인 관심을 남기고 문샷을 떠난다. 확인된 사실만으로도 충분히 주목할 만하다. 한 10대 연구자가 아키텍처 아이디어를 실용적인 기법으로 발전시키는 데 기여한 뒤 다음 자리를 발표하지 않은 채 탐구를 이어가기로 했다.
핵심 내용
- 네이선 천으로도 알려진 천광위는 17세였던 2026년 10월 15일 문샷AI를 떠난다고 발표했다.
- 2026년 3월 16일 발표된 어텐션 레지듀얼스 논문에 장위, 쑤젠린과 공동 제1저자로 이름을 올렸다.
- 문샷의 실험에서는 평가한 모든 과제의 성능이 향상됐고, 연산량을 1.25배 사용한 기준 모델과 같은 결과를 냈다.
- 천은 블록 어텐레스를 개발하는 데 기여했고 키미 델타 어텐션 계산의 가속 작업에도 참여했다.
- 베이 에어리어로 향한다고 밝혔으며 앤트로픽 합류설은 부인했다.
- 디스커버리 루프 합류설과 각각 약 100만 달러 이상의 제안 5곳을 받았다는 추측은 확인되지 않았다.






