AI의 판도를 바꿀까? 중국 AI, Kimi K3의 폭풍

 

안녕하세요, 촌장입니다.

 

• 지난 7월 17일, 뉴욕 증시가 잠시 술렁였습니다. 나스닥이 1% 넘게 밀렸고, 엔비디아 주가가 흔들리면서 그 틈에 애플이 잠깐이나마 세계 시가총액 1위 자리를 되찾기도 했죠. 무슨 일이 일어난 걸까요? 3년 밖에 안된 중국의 AI 스타트업, 문샷 AI(Moonshot AI)이 Kimi K3 란 오픈 AI 모델을 공개했는데 성능이 대단했습니다. 클로드나 ChatGPT의 최신 모델과 거의 비슷하거나 일부 영역에서는 오히려 더 앞서는 결과를 냈기 때문이죠. 시장은 이를 두고 지난해의 ‘딥시크 쇼크’가 재현됐다고 불렀습니다.
• ‘오픈 모델은 늘 상용 모델보다 한 발 뒤처진다’는 것이 그동안의 상식이었습니다. 그런데 이번엔 Kimi K3의 발표로 그 간격이 엄청나게 좁혀졌습니다.
• 오늘 수요레터에서는 Kimi K3가 대체 무엇이길래 월스트리트를 긴장시켰는지, 그리고 이 모델이 AI 산업에 어떤 파장을 던지고 있는지를 정리해 보려 합니다. 한국에서 우리가 실제로 쓸 수 있는지, 쓴다면 무엇을 조심해야 하는지까지 함께 짚어보겠습니다.
• 시작해 볼까요? 

 

 

 

문샷 AI, 3년 된 ‘중국의 오픈AI’

• 먼저 문샷 AI라는 회사부터 보겠습니다. 2023년에 세워진, 이제 겨우 세 살 된 회사입니다. 알리바바와 텐센트, IDG캐피털 같은 큰손들이 투자했고, 지난 5월에는 200억 달러가 넘는 기업가치를 인정받으며 20억 달러를 조달했습니다. 올해 4분기에서 내년 초 사이 홍콩 증시 상장을 준비하고 있는데, 최근 거론되는 몸값은 300억 달러에 이릅니다.
• 창업자이자 CEO인 양즈린(楊植麟)은 올해 34세로, 카네기멜런대에서 박사 과정을 4년 만에 마친 뒤 메타와 구글을 거친 연구자입니다. 논문 인용으로 이름이 알려진 정통 연구자이면서, 취미로 드럼을 치는 의외의 면모도 있습니다. 사람들은 이 회사를 ‘중국의 오픈AI’라고 부릅니다.

문샷 AI 창업자 겸 CEO 양즈린(Zhilin Yang) · 사진 : The National

 

 

거대하지만 영리하게 큰 모델

• 이제 Kimi K3의 성능 지표를 살펴볼까요? 
• 파라미터가 2.8조 개로, 지금까지 공개된 오픈웨이트 모델 가운데 가장 큽니다. 다만 여기서 알아야할 부분은 이 모델은 토큰 하나를 처리할 때 896개의 전문가(expert) 중 단 16개만 깨워서 쓴다는 점입니다. 전체의 1.8%만 가동하는 셈이죠. 이런 구조를 전문가 혼합(MoE)이라 부르는데, 덕분에 몸집은 거대하지만 실제로 돌아가는 부담은 그보다 훨씬 가볍습니다. 모델 자체는 매우 큰 모델이지만 가볍게 동작하는 모델인 겁니다. 여기에 100만 토큰에 이르는 긴 맥락 처리와 이미지를 곧바로 읽는 능력이 더해졌습니다.

출처 : Envato 

• 숫자로 보면 이렇습니다. 프런트엔드 코드 아레나(Frontend Code Arena)에서 1위에 올랐고, 일곱 개 세부 분야 중 여섯 개에서 선두를 차지했습니다. 터미널 벤치는 88.3%, 대학원 수준의 과학 추론을 재는 GPQA 다이아몬드는 93.5%로 오픈웨이트 모델 중 가장 높은 점수였습니다.
• 무엇보다 눈에 띄는 건 비용입니다. 같은 작업 하나를 처리하는 데 드는 값이 0.94달러로, GPT-5.6 Sol(1.04달러)이나 클로드 Opus 4.8(1.80달러)보다 쌌습니다. 성능은 비슷한데 훨씬 싸다. 이게 Kimi K3가 시장에 큰 반향을 불러온 핵심입니다. 

 

 

ChatGPT·클로드와 견주면

• 그렇다면 ChatGPT, 클로드와 견주면 어디쯤일까요. 냉정하게 보면 종합 성적표는 아직 최고를 찍은 건 아닙니다.
• 여러 능력을 두루 합산한 종합 지능 지수에서 K3는 약 57점으로, 클로드 Fable 5(약 60점)와 GPT-5.6 Sol(약 59점)에 근소하게 뒤지고, Opus 4.8(약 56점)은 간신히 앞섰습니다. 여러 단계를 스스로 밟아 나가는 에이전트 작업에서도 Fable 5가 여전히 우위입니다.
• 정리하면, 코딩이라는 특정 영역에서는 최상위권이지만 전반적인 지능으로는 4위권이라는 이야기입니다.
• 그런데도 시장이 놀란 이유는 단순합니다. 이 정도 성능을, 다운로드해서 내 것으로 쓸 수 있는 형태로, 훨씬 싼 값에 내놓았기 때문이죠.

종합 지능 지수는 Artificial Analysis Intelligence Index 기준. Kimi K3는 종합 4위이지만 코딩에서는 Frontend Code Arena 1위, GPQA Diamond 93.5%로 오픈웨이트 최고. ‘—’는 공개 비교 수치가 없는 항목.

 

 

전문가들의 호평

• 전문가들의 평가는 좀 갈립니다. 먼저 호평 쪽을 보면, 모건스탠리의 게리 유는 K3가 전 세계적으로 긍정적인 반응을 얻으며 모델 규모와 성능, 가격 모든 면에서 중국 LLM이 미국 선두를 전방위로 따라잡고 있음을 보여준다고 평가했습니다. 번스타인의 로빈 주 역시 딥시크 V3와 올해 초 GLM-5.2에 이어, 중국 최고 연구소들이 미국 프런티어를 따라잡는 능력을 또 한 번 입증하며 글로벌 투자자들을 놀라게 했다고 봤습니다. 모델의 뼈대를 이루는 새 기술들, 이를테면 앞서 언급한 어텐션 구조의 혁신은 빈말이 아니라 진짜 공학적 성취라는 데에는 회의론자들도 대체로 동의합니다.

 

 

그러나 회의론도 만만찮다

• 반대편의 목소리도 분명 많습니다. AI 분석가 즈비 모쇼위츠는 벤치마크가 얕은 과제를 잴 뿐 깊은 능력을 재지 못한다며, K3의 화려한 점수가 최대 성능 설정에서 나온 만큼 실제 사용에서는 그보다 다소 못할 것이라고 지적합니다. 성능이 어떤 일은 뛰어나고 어떤 일은 눈에 띄게 약한 ‘들쭉날쭉한’ 모습을 보인다는 거죠. 
• 게다가 K3는 클로드(Claude)의 출력을 상당 부분 증류(distillation)해 학습한 흔적이 있다고 합니다. 증류란 이미 잘 훈련된 큰 모델을 ‘선생’으로 삼아, 그 선생이 내놓는 방대한 답변을 다른 모델이 흉내 내며 배우는 방식입니다. 밑바닥부터 홀로 익히는 대신 앞서간 모델의 지식을 빠르게 옮겨 담는 지름길인 셈이죠. 그 흔적 때문인지 K3는 때때로 스스로를 클로드라고 답하는 웃지 못할 장면까지 보입니다.
• 모쇼위츠는 이번 공개가 판을 뒤집은 ‘딥시크 모먼트’가 아니라 예상된 성장 곡선 위의 한 점일 뿐이며, 가격마저 상용 모델과 비슷해 ‘값싼 오픈 모델’의 빈자리도 채우지 못한다고 냉정하게 정리합니다. 번스타인은 여기에 정치적 관전 포인트를 하나 덧붙입니다. K3의 등장이 오히려 앤트로픽이 밀어붙이는 규제 강화 전략에 불을 지필 수 있다는 것이죠.

 

 

강력함 뒤의 그늘

• 전문가들은 실제적인 제약을 지적하기도 합니다. 가장 큰 제약은 ‘오픈웨이트라지만 아무나 돌릴 수 없다’는 점입니다.
• 가중치 파일만 1.4테라바이트에 이르고, 제대로 구동하려면 가속기 64개 이상과 그것들을 잇는 초고속 연결망이 필요합니다. 개인용은 물론이고 웬만한 중소기업 서버로도 감당하기 쉽지 않은 수준입니다. 추론 모드가 항상 켜져 있어 끄고 켜는 조절이 안 되고, 지시가 모호하면 알아서 과하게 움직이는 경향도 보고된 것으로 알려지고 있습니다. 
• 그리고 역설적이게도, 모델은 공짜로 풀었지만 문샷이 직접 호스팅하는 API 가격은 오히려 올랐습니다. 캐시에 없는 입력 기준으로 이전 세대보다 다섯 배 비싸졌죠. 값싼 중국 AI의 시대가 이제 저무는 신호라는 해석이 나오는 이유이기도 합니다. 

 

 

인프라 투자는 어디로 향하나

• 이 대목에서 조금 이른 이야기지만, 인프라 투자의 방향도 짚어두고 싶습니다. Kimi K3 같은 모델이 나올 때마다 ‘효율이 좋아졌으니 이제 값비싼 GPU가 덜 필요해지는 것 아니냐’는 공포가 시장을 덮칩니다. 이번에 엔비디아가 흔들린 것도 그 심리였죠.
• 하지만 반대 진영의 논리가 더 설득력 있게 들립니다. 씨티의 한 분석가는 이를 ‘제번스 역설’로 설명합니다. 무언가를 쓰는 비용이 싸지면 오히려 사용량이 폭발해, 전체 자원 소비는 줄기는커녕 늘어난다는 겁니다. AI가 싸지면 사람들은 더 많은 에이전트를 돌리고, 더 긴 작업을 시킵니다. 흥미로운 건 그 수요가 향하는 곳입니다. MoE 방식의 추론은 계산 능력보다 메모리와 데이터 이동이 병목입니다. 그래서 앞으로의 투자는 순수 연산용 칩만이 아니라 HBM 같은 고대역폭 메모리, 서버용 메모리와 저장장치, 초고속 연결망 쪽으로 무게가 실릴 가능성이 큽니다. 시장의 관심축이 ‘얼마나 크게 훈련하느냐’에서 ‘얼마나 잘 서빙하느냐’로 옮겨가고 있는 셈이죠. 

 

 

그래서 한국에서는 쓸 수 있나

• 결론부터 말하면 지금도 가능합니다. kimi.com의 앱과 웹에서 무료 및 유료로 이용할 수 있고, API를 통한 연동도 열려 있습니다.
• 가중치 자체의 전면 공개는 7월 27일로 예고돼 있지만, 앞서 말했듯 이를 직접 내려받아 돌리려면 대형 인프라가 필요하니 대다수에게는 앱과 API가 현실적인 통로입니다.
• 다만 반드시 확인해야 할 것이 있습니다. 중국에는 2017년 제정된 국가정보법이 있어, 필요할 경우 기업이 국가의 정보 활동에 협조하도록 요구할 수 있습니다. 서버가 어디 있든 이 법적 배경은 남아 있습니다. 그러니 개인정보나 금융·의료 기록, 회사 기밀, 고객 데이터, 비밀번호 같은 민감한 내용은 입력하지 않는 편이 안전합니다.
• 반대로 아이디어 초안 잡기, 번역, 공부, 이미 공개된 자료를 다루는 정도의 가벼운 용도라면 부담 없이 써볼 만합니다. 이미 유료 구독 서비스를 잘 쓰고 있다면 서둘러 갈아탈 이유는 없고, 병행해서 성능과 비용을 견줘보는 정도가 합리적이지 않을까 생각합니다. 

출처 : Envato 

 

• Kimi K3가 AI 세상을 바꾸는 혁신이 될 지는 아직 잘 모릅니다. 종합 성능은 아직 최정상권 바로 아래이고, 사실 살펴보면 오픈웨이트 모델이라고 해도 사용이 녹녹치는 않습니다. 다만 이 한 번의 공개로, 최고 수준에 근접한 AI 모델을 ‘소유하고 통제할 수 있는 형태’로 훨씬 싸게 얻는 길이 열렸다는 사실은 분명해 보입니다. 
• 최근 클로드의 최상위 모델인 Fable 5의 사용 권한을 많이 풀어놓은 것도 저가 AI 서비스의 대세에 위기감을 느끼지 않았나 싶기도 합니다. 더 싸고, 더 효과적인 AI 인프라를 활용할 수 있다면 혁신은 더욱 빨라지겠지요. 하지만, 이런 경쟁이 과연 지속 가능한가 하는 점은 생각해봐야 할 것 같습니다. 경쟁적인 인프라 확대 속에서 규모의 경제를 만들어 낼 수 있을까요?
• 아무튼 AI의 기술 변화는 빨라도 너무 빠릅니다.  

 

 

 

촌장 드림