씨티 “AI 추론의 시대, 오픈소스의 순간이 왔다”
OpenRouter 오픈소스 비중 34%→65%
규제·비용·인재 3중 압박이 만든 새로운 AI 패권 지도
Executive Summary
씨티(Citi)가 2026년 6월 발행한 AI 섹터 레포트 ‘Inference Ahead – 오픈소스의 순간’은 AI 산업의 무게중심이 모델 학습(Training)에서 추론(Inference)으로, 폐쇄형(Closed-source) 프런티어에서 오픈 웨이트(Open-weight) 모델로 빠르게 이동하고 있다고 진단합니다. 오픈소스 토큰이 OpenRouter에서 차지하는 비중은 불과 5개월 만에 34%에서 65%로 급등했습니다. 배경은 네 가지입니다. ① GPT-5.6 등 프런티어 모델의 정부 사전 검토에 따른 접근 제한과 출시 지연, ② 폐쇄형 API 대비 50% 이상 비용 절감을 제공하는 오픈소스의 가격 경쟁력, ③ Z.ai GLM-5.2 등장으로 독점-오픈 지능 격차가 사실상 좁혀진 기술적 성숙, ④ 추론 인프라 스타트업(Baseten $15억·Fireworks AI $8억 ARR)으로 집중되는 벤처 자금. 동시에 미국 지방정부의 데이터센터 금지·모라토리엄이 1월 이후에만 275건을 넘어서면서, 하이퍼스케일러의 추가 자본지출 확대 능력이 제한되고 있습니다. 씨티는 AI 인재와 컴퓨트 밀도가 높은 선도 기업, 그리고 이 병목의 가격 수혜자들이 계속 아웃퍼폼할 것으로 전망합니다.
I. 현황 분석: 오픈소스의 순간, 수치로 보는 구조적 전환
1.1 씨티의 핵심 진단
1.2 오픈소스 전환의 핵심 지표들
II. 오픈 모델 수요 급증: 비용·규제·기술 성숙의 3중 엔진
2.1 비용 압박: 오픈소스로 50% 이상 절감
기업들이 가장 먼저 반응한 것은 비용입니다. OpenAI·앤스로픽 등 폐쇄형 API의 토큰당 비용이 급등하면서, 오픈소스 모델로 동일한 품질의 작업을 50% 이상 저렴하게 처리할 수 있다는 인식이 빠르게 확산됐습니다. Baseten CEO 투힌 스리바스타바는 “오픈소스 모델이 매우, 매우 좋아지고 있다”며 “고객들은 복잡한 추론은 폐쇄형 프런티어 모델에, 고용량·단순 작업은 오픈소스로 라우팅하고 있다”고 설명했습니다.
2.2 규제 압박: GPT-5.6 사전 검토가 오픈소스에 반사이익
GPT-5.6이 트럼프 행정부의 요청으로 정부 사전 검토를 거쳐 소수 파트너에게만 제한 공개된 사례, 앤스로픽 모델의 비활성화 사례 등이 복합적으로 작용했습니다. 폐쇄형 프런티어 모델은 정부 승인이 없으면 접근 자체가 제한될 수 있다는 우려가 현실화되면서, 기업들은 정부 승인과 무관하게 배포 가능한 오픈 웨이트 모델 도입을 가속화했습니다. 씨티는 이를 “모델 접근 제한 확대에 대응하면서 오픈 모델 수요가 계단식으로 증가하고 있다”고 표현했습니다.
2.3 기술 성숙: 독점-오픈 지능 격차가 사실상 좁혀졌다
씨티 대시보드(Figure 1)에 따르면 Z.ai의 GLM-5.2 출시를 계기로 지난 2주 동안 독점 모델과 오픈 웨이트 모델 간 지능 격차가 축소됐습니다. 딥시크(DeepSeek) V4, 알리바바 Qwen 시리즈, 미니맥스(MiniMax) 등 중국 오픈소스 모델들이 GPT-4 클래스와 경쟁 가능한 수준에 도달하면서, ‘오픈소스 = 하급’이라는 공식이 무너지고 있습니다.
2.4 기업별 오픈소스 수요 현황
| 기업/플랫폼 | 지표 | 변화 | 비고 |
|---|---|---|---|
| OpenRouter | 오픈소스 토큰 비중 | 34% → 65% (1월~6월) | 주간 25조 토큰 처리 |
| Fireworks AI | 오픈소스 처리량 | 4월~6월 약 2배 → 30조 토큰 | DeepSeek·MiniMax·Qwen 포함 |
| Cohere | 2027년 내부 ARR 전망 | 3배 상향 | 기업용 오픈 모델 수요 급증 반영 |
| Baseten | 분기 ARR | $2억 → $6억 (한 분기, +200%) | 연간 성장률 1,900% (Sacra) |
III. 아키텍처 병목: 추론 인프라로 몰리는 투자 자금
3.1 48시간 안에 18억달러: 추론 인프라의 벤처 블랙홀
씨티가 지목한 가장 상징적인 사례는 Baseten의 15억달러 조달입니다. Baseten은 오픈소스 모델의 프로덕션 배포를 비용 효율적으로 확장하는 추론 인프라 기업입니다. 6월 18일 하루 동안 Baseten 15억달러(밸류에이션 최대 $130억)와 General Intuition 3억달러가 동시에 발표됐습니다. AI 산업에서 벤처 자본이 기초 모델이 아닌 인프라 레이어에 집중되고 있다는 명확한 신호입니다.
3.2 추론 인프라 스타트업 현황
| 기업 | 최근 조달 | 밸류에이션 | ARR | 핵심 강점 |
|---|---|---|---|---|
| Baseten | $15억 | 최대 $130억 | $6억 (3월) | 기업용 오픈소스 모델 배포·커스텀 추론 |
| Fireworks AI | $15억 밸류 협상 중 | $150억 (협상) | $8억 (5월) | 오픈소스 고속 추론, 250% 높은 처리량 |
| Together AI | $75억 밸류 협상 중 | $75억 | $10억+ | 200+ 모델, 파인튜닝+추론 통합 |
| OpenRouter | $1.13억 (시리즈 C) | $13억 | – | 멀티모델 API 라우터, 400+ 모델 |
| Upscale AI | $1.9억 | – | – | 특화 하드웨어·오픈 표준 AI 패브릭 |
3.3 Qualcomm의 Modular 40억달러 인수: 오픈 아키텍처의 선언
씨티가 주목한 또 다른 신호는 Qualcomm의 Modular 인수 계획($40억)입니다. Modular는 이기종 하드웨어(heterogeneous hardware)를 수용하는 오픈·유연 소프트웨어 아키텍처를 개발하는 회사입니다. Qualcomm이 이 회사를 $40억에 인수하려는 것은, AI 인프라 업계가 NVIDIA GPU 독점에서 벗어나 다양한 하드웨어를 유연하게 활용하는 오픈 아키텍처 방향으로 이동하고 있음을 보여줍니다. 이는 추론 비용 절감의 핵심 구조적 변화입니다.
IV. 인재 부족: AI 리더십 결정의 숨겨진 변수
4.1 씨티의 인재 밀도 진단
씨티는 인재 밀도(Talent Density)를 AI 리더십을 결정하는 핵심 요인으로 지목했습니다. AI 연구자·소프트웨어 엔지니어·프로덕트 매니저를 둘러싼 치열한 경쟁이 업계 전반에서 지속되고 있습니다.
4.2 최근 인재 이동의 신호들 (출처: The Information, 2026년 6월 25일)
| 기업 | 인재 이동 내용 | 시사점 |
|---|---|---|
| AI 코딩 도구 집중하던 스트라이크 팀 재편 | 전략 전환 신호, 내부 혼란 가능성 | |
| 프런티어 연구소 전반 | Noam Shazeer, John Jumper 등 핵심 인재 이탈 | 프런티어 연구소 간 실행력 격차 벌어질 가능성 |
| DeepSeek | 에이전틱 Harness 팀 채용 어려움, 전 부서 인력 2배 계획 | 글로벌 AI 인재 쟁탈전 심화 확인 |
| 오픈AI | 메타·구글 출신 고급 엔지니어 영입에 대규모 비용 집행 | 비용 소진 가속, IPO 연기 압력 |
V. 인프라 구축의 두 얼굴: 확장과 규제의 충돌
5.1 확장: Microsoft+Chevron 서부 텍사스 2.67GW
AI 인프라 구축은 계속 거침없이 진행되고 있습니다. Microsoft와 Chevron의 서부 텍사스 데이터센터 프로젝트를 위한 20년 전력 계약은 시간이 지남에 따라 2.67GW까지 확대될 것으로 예상됩니다. 프런티어 연구소와 메모리·스토리지 공급업체 간 신규 전략적 칩 공급 계약(SCA — 마이크론-앤스로픽, SK하이닉스 ADR 등)도 이 흐름을 확인합니다.
5.2 규제: 데이터센터 금지 300건의 충격
그러나 씨티는 데이터센터 건설에 대한 규제 리스크가 빠르게 커지고 있다고 경고합니다. 2023년 이후 미국 지방정부에서 300건이 넘는 데이터센터 금지 또는 모라토리엄이 제정됐으며, 놀랍게도 그 중 275건 이상이 2026년 1월 1일 이후에만 통과됐습니다. 불과 6개월 만에 건수가 폭발적으로 늘어난 것입니다.
VI. 투자 시사점: 씨티가 지목한 아웃퍼폼 수혜자
6.1 씨티의 투자 관점 요약
6.2 레이어별 수혜자 분류
| 레이어 | 수혜 주체 | 근거 | 투자 매력도 |
|---|---|---|---|
| 메모리·스토리지 인프라 | SK하이닉스, 마이크론, 삼성전자 | 추론 수요↑ → HBM·DRAM 공급 부족 지속, SCA 장기 계약 | 매우 높음 ★★★ |
| 추론 인프라 (오픈소스) | Baseten, Fireworks AI, Together AI, OpenRouter | 오픈소스 수요 폭증으로 ARR 분기 200%+, 벤처 자금 집중 | 높음 ★★☆ (비상장) |
| 전력 인프라 | Infineon, onsemi, 데이터센터 전력 공급망 | 데이터센터 건설 300건 모라토리엄 → 기존 시설 효율화 투자↑ | 높음 ★★☆ |
| 오픈 하드웨어 아키텍처 | Qualcomm, AMD, Cerebras(CBRS) | Modular 인수 등 이기종 하드웨어 오픈 아키텍처 투자↑ | 중간 ★★☆ |
| 오픈소스 모델 개발사 | Meta(Llama), 딥시크, Z.ai, Qwen(알리바바) | 규제 사각지대에서 빠른 배포·확산 가능 | 중간 (China 리스크 포함) |
| 폐쇄형 프런티어 | 오픈AI, 앤스로픽 (일부) | 정부 검토 의무화로 출시 속도 둔화, 비용 경쟁력 약화 | 단기 불확실 ★☆☆ |
VII. 결론: 병목을 가진 자가 AI 패권을 쥔다
씨티 레포트의 핵심 메시지는 명확합니다. AI 산업의 승자는 가장 좋은 모델을 만드는 기업이 아니라, 가장 중요한 병목을 통제하는 기업입니다. 2026년 하반기, 그 병목은 세 가지입니다. 메모리(HBM·DRAM), 전력 인프라, 그리고 AI 인재. 이 세 가지를 풍부하게 보유한 기업이 아웃퍼폼합니다. 동시에 오픈소스 전환이라는 구조적 흐름은 폐쇄형 프런티어 모델의 독점적 지위를 빠르게 잠식하고 있으며, 이 혜택은 추론 인프라 스타트업과 오픈소스 모델 공급자들에게 돌아가고 있습니다.
