씨티 “AI 추론의 시대, 오픈소스의 순간”: OpenRouter 오픈소스 비중 34%→65%, 수혜주 완전 분석

씨티 “AI 추론의 시대, 오픈소스의 순간이 왔다”: OpenRouter 오픈소스 비중 34%→65%, 수혜주 완전 분석

씨티 “AI 추론의 시대, 오픈소스의 순간이 왔다”
OpenRouter 오픈소스 비중 34%→65%
규제·비용·인재 3중 압박이 만든 새로운 AI 패권 지도

분석일: 2026년 6월 26일 | 기준: Citi “Inference Ahead – 오픈소스의 순간” (2026년 6월), Baseten·Fireworks·OpenRouter 공시, The Information, Sacra Research, Deloitte

Executive Summary

씨티(Citi)가 2026년 6월 발행한 AI 섹터 레포트 ‘Inference Ahead – 오픈소스의 순간’은 AI 산업의 무게중심이 모델 학습(Training)에서 추론(Inference)으로, 폐쇄형(Closed-source) 프런티어에서 오픈 웨이트(Open-weight) 모델로 빠르게 이동하고 있다고 진단합니다. 오픈소스 토큰이 OpenRouter에서 차지하는 비중은 불과 5개월 만에 34%에서 65%로 급등했습니다. 배경은 네 가지입니다. ① GPT-5.6 등 프런티어 모델의 정부 사전 검토에 따른 접근 제한과 출시 지연, ② 폐쇄형 API 대비 50% 이상 비용 절감을 제공하는 오픈소스의 가격 경쟁력, ③ Z.ai GLM-5.2 등장으로 독점-오픈 지능 격차가 사실상 좁혀진 기술적 성숙, ④ 추론 인프라 스타트업(Baseten $15억·Fireworks AI $8억 ARR)으로 집중되는 벤처 자금. 동시에 미국 지방정부의 데이터센터 금지·모라토리엄이 1월 이후에만 275건을 넘어서면서, 하이퍼스케일러의 추가 자본지출 확대 능력이 제한되고 있습니다. 씨티는 AI 인재와 컴퓨트 밀도가 높은 선도 기업, 그리고 이 병목의 가격 수혜자들이 계속 아웃퍼폼할 것으로 전망합니다.

I. 현황 분석: 오픈소스의 순간, 수치로 보는 구조적 전환

1.1 씨티의 핵심 진단

Citi Research — Inference Ahead: 오픈소스의 순간 (2026년 6월)
규제 당국이 일부 프런티어 모델에 대한 접근을 차단하고 다른 모델들의 출시를 늦추는 가운데, 추론 수요가 계속 공급을 앞지르면서 오픈 모델이 모멘텀을 얻고 있습니다. 기업들은 특정 사용 사례에 대해 프런티어 모델의 대안을 찾고 있습니다. 이는 소프트웨어와 하드웨어 양쪽에서 비용 효율적인 오픈 아키텍처를 제공하는 스타트업에 대한 투자를 촉진하고 있습니다.

1.2 오픈소스 전환의 핵심 지표들

OpenRouter 오픈소스 토큰 비중
34% → 65%
2026년 1월 → 6월 (5개월 만에 2배)
Fireworks AI 오픈소스 처리량
30조 토큰
4월~6월 약 2배 증가 (DeepSeek·Qwen 포함)
Cohere 2027년 ARR 전망 상향
3배
오픈 모델 수요 급증 반영
AI 추론 컴퓨트 비중
2/3
2023년 1/3 → 2026년 2/3 (Deloitte)
미국 데이터센터 금지·모라토리엄
300건+
2023년 이후, 275건이 1월 이후 집중
추론 인프라 48시간 조달
$18억
Baseten $15억 + General Intuition $3억

II. 오픈 모델 수요 급증: 비용·규제·기술 성숙의 3중 엔진

2.1 비용 압박: 오픈소스로 50% 이상 절감

기업들이 가장 먼저 반응한 것은 비용입니다. OpenAI·앤스로픽 등 폐쇄형 API의 토큰당 비용이 급등하면서, 오픈소스 모델로 동일한 품질의 작업을 50% 이상 저렴하게 처리할 수 있다는 인식이 빠르게 확산됐습니다. Baseten CEO 투힌 스리바스타바는 “오픈소스 모델이 매우, 매우 좋아지고 있다”며 “고객들은 복잡한 추론은 폐쇄형 프런티어 모델에, 고용량·단순 작업은 오픈소스로 라우팅하고 있다”고 설명했습니다.

2.2 규제 압박: GPT-5.6 사전 검토가 오픈소스에 반사이익

GPT-5.6이 트럼프 행정부의 요청으로 정부 사전 검토를 거쳐 소수 파트너에게만 제한 공개된 사례, 앤스로픽 모델의 비활성화 사례 등이 복합적으로 작용했습니다. 폐쇄형 프런티어 모델은 정부 승인이 없으면 접근 자체가 제한될 수 있다는 우려가 현실화되면서, 기업들은 정부 승인과 무관하게 배포 가능한 오픈 웨이트 모델 도입을 가속화했습니다. 씨티는 이를 “모델 접근 제한 확대에 대응하면서 오픈 모델 수요가 계단식으로 증가하고 있다”고 표현했습니다.

2.3 기술 성숙: 독점-오픈 지능 격차가 사실상 좁혀졌다

씨티 대시보드(Figure 1)에 따르면 Z.ai의 GLM-5.2 출시를 계기로 지난 2주 동안 독점 모델과 오픈 웨이트 모델 간 지능 격차가 축소됐습니다. 딥시크(DeepSeek) V4, 알리바바 Qwen 시리즈, 미니맥스(MiniMax) 등 중국 오픈소스 모델들이 GPT-4 클래스와 경쟁 가능한 수준에 도달하면서, ‘오픈소스 = 하급’이라는 공식이 무너지고 있습니다.

2.4 기업별 오픈소스 수요 현황

기업/플랫폼지표변화비고
OpenRouter 오픈소스 토큰 비중 34% → 65% (1월~6월) 주간 25조 토큰 처리
Fireworks AI 오픈소스 처리량 4월~6월 약 2배 → 30조 토큰 DeepSeek·MiniMax·Qwen 포함
Cohere 2027년 내부 ARR 전망 3배 상향 기업용 오픈 모델 수요 급증 반영
Baseten 분기 ARR $2억 → $6억 (한 분기, +200%) 연간 성장률 1,900% (Sacra)

III. 아키텍처 병목: 추론 인프라로 몰리는 투자 자금

3.1 48시간 안에 18억달러: 추론 인프라의 벤처 블랙홀

씨티가 지목한 가장 상징적인 사례는 Baseten의 15억달러 조달입니다. Baseten은 오픈소스 모델의 프로덕션 배포를 비용 효율적으로 확장하는 추론 인프라 기업입니다. 6월 18일 하루 동안 Baseten 15억달러(밸류에이션 최대 $130억)와 General Intuition 3억달러가 동시에 발표됐습니다. AI 산업에서 벤처 자본이 기초 모델이 아닌 인프라 레이어에 집중되고 있다는 명확한 신호입니다.

3.2 추론 인프라 스타트업 현황

기업최근 조달밸류에이션ARR핵심 강점
Baseten $15억 최대 $130억 $6억 (3월) 기업용 오픈소스 모델 배포·커스텀 추론
Fireworks AI $15억 밸류 협상 중 $150억 (협상) $8억 (5월) 오픈소스 고속 추론, 250% 높은 처리량
Together AI $75억 밸류 협상 중 $75억 $10억+ 200+ 모델, 파인튜닝+추론 통합
OpenRouter $1.13억 (시리즈 C) $13억 멀티모델 API 라우터, 400+ 모델
Upscale AI $1.9억 특화 하드웨어·오픈 표준 AI 패브릭

3.3 Qualcomm의 Modular 40억달러 인수: 오픈 아키텍처의 선언

씨티가 주목한 또 다른 신호는 Qualcomm의 Modular 인수 계획($40억)입니다. Modular는 이기종 하드웨어(heterogeneous hardware)를 수용하는 오픈·유연 소프트웨어 아키텍처를 개발하는 회사입니다. Qualcomm이 이 회사를 $40억에 인수하려는 것은, AI 인프라 업계가 NVIDIA GPU 독점에서 벗어나 다양한 하드웨어를 유연하게 활용하는 오픈 아키텍처 방향으로 이동하고 있음을 보여줍니다. 이는 추론 비용 절감의 핵심 구조적 변화입니다.

IV. 인재 부족: AI 리더십 결정의 숨겨진 변수

4.1 씨티의 인재 밀도 진단

씨티는 인재 밀도(Talent Density)를 AI 리더십을 결정하는 핵심 요인으로 지목했습니다. AI 연구자·소프트웨어 엔지니어·프로덕트 매니저를 둘러싼 치열한 경쟁이 업계 전반에서 지속되고 있습니다.

4.2 최근 인재 이동의 신호들 (출처: The Information, 2026년 6월 25일)

기업인재 이동 내용시사점
Google AI 코딩 도구 집중하던 스트라이크 팀 재편 전략 전환 신호, 내부 혼란 가능성
프런티어 연구소 전반 Noam Shazeer, John Jumper 등 핵심 인재 이탈 프런티어 연구소 간 실행력 격차 벌어질 가능성
DeepSeek 에이전틱 Harness 팀 채용 어려움, 전 부서 인력 2배 계획 글로벌 AI 인재 쟁탈전 심화 확인
오픈AI 메타·구글 출신 고급 엔지니어 영입에 대규모 비용 집행 비용 소진 가속, IPO 연기 압력
💡 인재 이탈이 오픈소스에 유리한 이유
대형 폐쇄형 AI 연구소에서 핵심 인재가 이탈하면, 이들 중 상당수가 오픈소스 생태계 혹은 특화 스타트업으로 이동합니다. Noam Shazeer(Google Brain 출신)가 Character.ai를 창업한 것이 대표적 사례입니다. 인재 밀도가 분산될수록 폐쇄형 프런티어의 기술적 독점력은 약해지고, 오픈소스 생태계의 혁신 속도는 빨라지는 구조입니다. 씨티가 “프런티어 연구소들 간 실행력 격차가 벌어지기 시작했을 가능성”을 지적한 것은 이 맥락입니다.

V. 인프라 구축의 두 얼굴: 확장과 규제의 충돌

5.1 확장: Microsoft+Chevron 서부 텍사스 2.67GW

AI 인프라 구축은 계속 거침없이 진행되고 있습니다. Microsoft와 Chevron의 서부 텍사스 데이터센터 프로젝트를 위한 20년 전력 계약은 시간이 지남에 따라 2.67GW까지 확대될 것으로 예상됩니다. 프런티어 연구소와 메모리·스토리지 공급업체 간 신규 전략적 칩 공급 계약(SCA — 마이크론-앤스로픽, SK하이닉스 ADR 등)도 이 흐름을 확인합니다.

5.2 규제: 데이터센터 금지 300건의 충격

그러나 씨티는 데이터센터 건설에 대한 규제 리스크가 빠르게 커지고 있다고 경고합니다. 2023년 이후 미국 지방정부에서 300건이 넘는 데이터센터 금지 또는 모라토리엄이 제정됐으며, 놀랍게도 그 중 275건 이상이 2026년 1월 1일 이후에만 통과됐습니다. 불과 6개월 만에 건수가 폭발적으로 늘어난 것입니다.

⚠️ 데이터센터 규제가 하이퍼스케일러에 미치는 구조적 영향
씨티는 이러한 제약이 “추가 가격 인상을 반영하는 수준을 넘어 하이퍼스케일러들이 자본지출을 더 높게 수정할 수 있는 능력을 제한할 것”이라고 지적합니다. 즉 Meta·Microsoft·Google·Amazon이 아무리 많은 돈을 투자하고 싶어도, 허가와 부지 확보 문제로 실제 데이터센터 건설이 지연될 수 있다는 의미입니다. 이는 JP모건이 지목한 AI 전력 인프라 병목, SK하이닉스가 강조한 HBM 공급 부족과 함께 AI 인프라의 3대 병목 구조를 형성합니다.

VI. 투자 시사점: 씨티가 지목한 아웃퍼폼 수혜자

6.1 씨티의 투자 관점 요약

Citi Research — 투자 시사점
AI 인재 밀도와 컴퓨트 밀도가 높은 선도 기업에 유리하게 작용할 것이며, 동시에 이러한 병목의 가격 수혜자들이 계속 아웃퍼폼할 것으로 예상합니다. 인프라 계약은 업계의 장기적 방향성을 계속 굳히고 있지만, 인재 제약과 데이터센터 건설상의 어려움은 개발 속도에 영향을 미칠 것입니다.

6.2 레이어별 수혜자 분류

레이어수혜 주체근거투자 매력도
메모리·스토리지 인프라 SK하이닉스, 마이크론, 삼성전자 추론 수요↑ → HBM·DRAM 공급 부족 지속, SCA 장기 계약 매우 높음 ★★★
추론 인프라 (오픈소스) Baseten, Fireworks AI, Together AI, OpenRouter 오픈소스 수요 폭증으로 ARR 분기 200%+, 벤처 자금 집중 높음 ★★☆ (비상장)
전력 인프라 Infineon, onsemi, 데이터센터 전력 공급망 데이터센터 건설 300건 모라토리엄 → 기존 시설 효율화 투자↑ 높음 ★★☆
오픈 하드웨어 아키텍처 Qualcomm, AMD, Cerebras(CBRS) Modular 인수 등 이기종 하드웨어 오픈 아키텍처 투자↑ 중간 ★★☆
오픈소스 모델 개발사 Meta(Llama), 딥시크, Z.ai, Qwen(알리바바) 규제 사각지대에서 빠른 배포·확산 가능 중간 (China 리스크 포함)
폐쇄형 프런티어 오픈AI, 앤스로픽 (일부) 정부 검토 의무화로 출시 속도 둔화, 비용 경쟁력 약화 단기 불확실 ★☆☆

VII. 결론: 병목을 가진 자가 AI 패권을 쥔다

씨티 레포트의 핵심 메시지는 명확합니다. AI 산업의 승자는 가장 좋은 모델을 만드는 기업이 아니라, 가장 중요한 병목을 통제하는 기업입니다. 2026년 하반기, 그 병목은 세 가지입니다. 메모리(HBM·DRAM), 전력 인프라, 그리고 AI 인재. 이 세 가지를 풍부하게 보유한 기업이 아웃퍼폼합니다. 동시에 오픈소스 전환이라는 구조적 흐름은 폐쇄형 프런티어 모델의 독점적 지위를 빠르게 잠식하고 있으며, 이 혜택은 추론 인프라 스타트업과 오픈소스 모델 공급자들에게 돌아가고 있습니다.

① 오픈소스 토큰 65%의 의미: 이미 과반이 넘었다
OpenRouter에서 오픈소스 토큰이 65%를 차지한다는 것은, 인터넷 상에서 처리되는 AI 추론의 절반 이상이 이미 오픈AI·앤스로픽이 아닌 오픈소스 모델로 처리되고 있다는 의미입니다. 이 추세가 계속된다면 2026년 말 오픈소스 비중은 70~75%에 달할 수 있습니다. 폐쇄형 프런티어의 API 매출 성장은 구조적 역풍에 직면합니다.
② 데이터센터 모라토리엄 275건: 하이퍼스케일러의 새로운 적
2026년 1월 이후에만 275건의 데이터센터 금지·모라토리엄이 통과됐습니다. 이는 하이퍼스케일러의 자본지출 가이던스를 더 높이는 것 자체를 물리적으로 제한하는 변수입니다. 반면 기존 데이터센터의 효율화 투자(전력 변환·냉각·추론 최적화)는 더욱 중요해집니다. JP모건의 AI 전력 인프라 테마와 씨티의 추론 효율화 테마가 이 지점에서 만납니다.
③ 한국 투자자 관점: SK하이닉스·삼성전자가 모든 시나리오의 수혜자
오픈소스 모델이 확산되든, 폐쇄형 프런티어가 독주하든, 추론 인프라가 폭발적으로 성장하든 — 모든 시나리오에서 공통 수혜자는 HBM·DRAM을 공급하는 메모리 기업입니다. 추론은 학습보다 더 많은 메모리 대역폭을 요구하며, 오픈소스 추론이 확산될수록 더 많은 GPU, 더 많은 HBM이 필요합니다. SK하이닉스 ADR 상장(7월 10일)과 마이크론 역대 최고 실적이 모두 같은 방향을 가리키고 있습니다.

함께보면 좋은 글