JP모건 “서버 CPU, 2028년 1,000억 달러 시장”
에이전틱 AI가 여는 슈퍼사이클
Executive Summary
JP모건이 독자적인 서버 CPU 출하 모델을 새로 도입하며, 전체 서버 CPU 출하량이 2025년 2,600만 개에서 2028년 6,800만 개로 연평균 38% 성장할 것으로 전망했다. 서버 CPU 수요를 AI 헤드노드 CPU, 에이전틱 AI 서버 CPU, 범용 서버 CPU의 세 가지 버킷으로 구분했으며, AI가 학습에서 추론으로 이동하면서 에이전틱 AI와 AI 헤드노드 수요가 ‘슈퍼’ 서버 CPU 사이클을 이끌 것으로 봤다. 공급 타이트와 업그레이드 사이클로 연간 약 10%의 CPU 가격 인상을 가정하면, 서버 CPU TAM은 2025~28년 연평균 53% 성장해 2028년 약 1,000억 달러에 달할 전망이다. 특히 에이전틱 AI CPU는 이번 사이클의 돌파구적 성장 동력으로 2025~28년 연평균 155% 성장이 예상되며, 2028년에는 범용 서버 CPU 시장의 절반 이상을 차지하는 핵심 증분 수요가 될 전망이다(작년 10% 미만). 아키텍처 측면에서는 엔비디아 Vera와 구글 Axion을 중심으로 ARM 기반 CPU의 점유율 확대가 두드러져, 전체 서버 CPU 시장에서 ARM 비중이 2025년 약 22%에서 2028년 약 43%까지 상승할 전망이다. 수혜주로는 ASPEED·Lotes·Unimicron을 핵심으로, TSMC·ASE, SK하이닉스·삼성전자, Tripod·Wiwynn·Inventec까지 밸류체인 전반이 거론됐다.
I. 배경 — 왜 지금 서버 CPU 독자 모델인가
JP모건은 이번 리포트에서 서버 CPU 출하를 하향식(top-down)으로 재구축한 독자 모델을 처음 공개했다. 전체 서버 CPU 출하량은 2024년 2,210만 개에서 2025년 2,570만 개, 2026년 3,630만 개, 2027년 5,140만 개를 거쳐 2028년 6,790만 개에 이를 것으로 추정되며, 이는 2025~28년 연평균 38% 성장에 해당한다. AI 서버 헤드노드용 CPU를 제외한 순수 출하량 기준으로도 2025~28년 연평균 31% 성장이 전망된다. 공급 타이트와 업그레이드 사이클을 반영해 연간 약 10%의 CPU 가격 인상을 가정하면, 서버 CPU 매출 TAM은 2024년 210억 달러에서 2025년 280억 달러, 2028년 약 1,000억 달러로 2025~28년 연평균 53% 성장할 전망이다.
II. 3대 수요 버킷 — AI 헤드노드·에이전틱 AI·범용 서버
JP모건은 서버 CPU 수요를 AI 헤드노드 CPU, 에이전틱 AI 서버 CPU, 범용 서버 CPU의 세 가지 버킷으로 구분했다. AI가 학습에서 추론으로 이동하면서 에이전틱 AI와 AI 헤드노드 수요가 ‘슈퍼’ 서버 CPU 사이클을 이끌 것으로 봤다. 세 버킷의 2025~28년 연평균 성장률은 각각 AI 헤드노드 CPU 74%, 에이전틱 AI CPU 155%, 범용 서버 CPU(non-AI 워크로드) 5%로, 범용 서버는 안정적 성장을 유지하는 가운데 AI 관련 두 버킷이 전체 성장을 견인하는 구조다.
| 단위: 백만 개 | 2024 | 2025 | 2026E | 2027E | 2028E | 25-28 CAGR |
|---|---|---|---|---|---|---|
| 1. AI 서버 헤드노드 | ||||||
| 글로벌 AI 가속기 출하량 | 7.6 | 9.6 | 16.1 | 25.2 | 32.5 | 50% |
| YoY | – | 27% | 67% | 56% | 29% | |
| 헤드노드당 평균 가속기 수 | 4.1 | 3.0 | 2.3 | 2.2 | 1.9 | |
| 헤드노드 서버 CPU 필요량 | 1.8 | 3.2 | 7.1 | 11.3 | 16.8 | 74% |
| YoY | – | 73% | 124% | 59% | 48% | |
| 2. 범용 서버 성장 (비AI 워크로드) | ||||||
| 비AI 워크로드 전통 서버 유닛 | 11.6 | 11.9 | 12.5 | 13.1 | 13.8 | |
| YoY | 2% | 3% | 5% | 5% | 5% | |
| 서버당 CPU 수 | 1.8 | 1.8 | 1.8 | 1.8 | 1.8 | |
| 비AI 워크로드 CPU | 20.3 | 20.9 | 21.9 | 23.0 | 24.2 | 5% |
| YoY | – | 3% | 5% | 5% | 5% | |
| 3. 에이전틱 AI CPU 클러스터 | ||||||
| 가속기당 CPU 비율 | 0.0 | 0.17 | 0.45 | 0.68 | 0.83 | |
| 에이전틱 AI CPU 합계 | 0.0 | 1.6 | 7.3 | 17.1 | 27.0 | 155% |
| YoY | – | – | 352% | 134% | 58% | |
| 전체 서버 CPU 출하량 | ||||||
| 전체 서버 CPU 출하량 | 22.1 | 25.7 | 36.3 | 51.4 | 67.9 | 38% |
| YoY | – | 16% | 42% | 42% | 32% | |
| AI 헤드노드 제외 전체 출하량 | 20.3 | 22.5 | 29.2 | 40.1 | 51.1 | 31% |
| YoY | – | 11% | 30% | 37% | 27% | |
III. AI 헤드노드 CPU — 가속기 대비 부착률의 구조적 압축
AI 헤드노드 CPU의 경우, 반도체팀의 CoWoS 추정에 기반한 AI 가속기 출하가 2024년 760만 개에서 2028년 3,250만 개로 늘어나는 가운데(2025~28년 연평균 약 50%), 가속기 대비 CPU 부착률이 상승하면서 수요가 계단식으로 증가할 것으로 예상된다. 가속기 대 CPU 비율은 기존 HGX 서버의 약 4:1에서 NVL72 컴퓨트 트레이의 약 2:1로, 차세대 TPU 설계에서는 잠재적으로 1:1까지 압축되고 있다. 벤더별로는 엔비디아 NVL72가 2:1(HGX는 차세대에서 오히려 8:1로 상승), AMD MI300/MI455 Helio가 4:1, 구글 TPU v8은 1:1과 2:1 설계가 혼재하며, AWS 트레이니엄은 T3 수냉 프로젝트에서 16:1에서 4:1로 낮아질 것으로 분석됐다. 이에 따라 AI 헤드노드 CPU는 2025~28년 연평균 약 74% 성장이 전망되며, 헤드노드 서버 CPU 수요는 2024년 180만 개에서 2028년 1,680만 개로 늘어날 전망이다.
| 벤더/플랫폼 | 가속기:CPU 비율 변화 | 비고 |
|---|---|---|
| 엔비디아 NVL72 | 4:1(HGX) → 2:1 | 차세대 HGX는 오히려 8:1로 상승 |
| AMD MI300/MI455 Helio | 4:1 유지 | |
| 구글 TPU v8 | 1:1 / 2:1 혼재 | 차세대 설계에서 1:1 잠재력 |
| AWS 트레이니엄 (T3 수냉) | 16:1 → 4:1 | 수냉 프로젝트 기준 |
IV. 에이전틱 AI CPU — 이번 사이클의 돌파구
에이전틱 AI CPU는 이번 사이클의 돌파구적 성장 동력으로, 2025~28년 연평균 155% 성장이 예상된다. AI 워크로드가 추론 중심으로 이동하면서 하이퍼스케일러들이 TCO 개선을 위해 가속기 주변에 범용 서버(KV 캐시용 외부 스토리지 서버, 쿼리 오케스트레이션용 컴퓨트 서버)를 늘리고 있으며, 올해 가속기 2개당 CPU 1개 수준(약 0.5배)인 비율이 가속기 복잡성 증가와 함께 상승할 것으로 봤다. 이는 2028년 범용 서버 CPU 시장의 50% 이상을 차지하는 핵심 증분 수요가 될 전망이다(작년 10% 미만). 범용 서버 CPU는 연평균 약 5%의 안정적 성장을 유지할 것으로 봤다. 실제로 BofA도 지난 6월 유사한 논지로 에이전틱 AI의 오케스트레이션·의사결정 기능이 지연에 민감하고 순차적이며 입출력 집약적이라 GPU보다 CPU에 더 적합하다고 평가하며 2030년 서버 CPU TAM 전망치를 기존 1,250억 달러에서 1,700억 달러 이상으로 상향한 바 있다.
Arm은 기존 AI 데이터센터가 GW당 약 3,000만 개의 CPU 코어를 필요로 하는 반면, 에이전틱 AI 시대에는 GW당 최대 1억 2,000만 개까지(4배) 늘어날 것으로 추정한다. CPU 코어가 전체 워크플로 지연시간의 50~90%를 차지한다는 분석도 있어, AI 클러스터 내 CPU 대 GPU 비율이 계속 상승할 수밖에 없다는 논리를 뒷받침한다.
V. 아키텍처 전환 — ARM이 헤드노드의 90%를 차지
아키텍처 측면에서는 엔비디아 Vera와 구글 Axion을 중심으로 ARM 기반 CPU의 점유율 확대가 두드러져, 2028년 AI 헤드노드 CPU 수요의 약 90%를 ARM이 차지하고, 전체 서버 CPU 시장에서의 ARM 비중은 2025년 약 22%에서 2028년 약 43%까지 상승할 것으로 전망됐다. 다만 x86 CPU 시장도 직전 사이클의 정체 수준과 달리 연평균 25%의 가속 성장이 예상되며, 상향식 추정으로는 x86과 ARM이 각각 25%, 72%의 연평균 성장률을 기록할 것으로 봤다. 실제로 올해 3월 GTC에서 엔비디아가 88코어 Vera CPU를(256개 CPU로 구성된 랙 단위 22,528코어), 3월 24일에는 Arm이 자체 설계 첫 양산 실리콘인 AGI CPU(136코어, 300W)를 공개하는 등 ARM 진영의 실전 제품 출시가 본격화됐다. 구글은 Axion CPU가 동급 x86 대비 약 65% 나은 가격 대비 성능과 60% 나은 에너지 효율을 제공한다고 주장하고 있으며, 마이크로소프트 Cobalt 100과 아마존 Graviton4도 유사한 효율 우위를 보이고 있다.
VI. 밸류체인 수혜주
수혜주로는 서버 CPU와 BMC, 기판, 소켓 수요의 높은 상관관계를 근거로 ASPEED, Lotes, Unimicron을 핵심 수혜주로 꼽았으며, AMD의 x86 서버 CPU 점유율 확대는 파운드리·OSAT인 TSMC와 ASE에 긍정적이라고 평가했다. DIMM·SOCAMM 수요 증가로 SK하이닉스와 삼성전자 등 메모리 벤더도 수혜가 예상되며, 다운스트림에서는 서버 PCB 업체 Tripod와 범용 서버 ODM인 Wiwynn, Inventec의 수혜 가능성이 언급됐다.
| 밸류체인 영역 | 수혜 기업 | 근거 |
|---|---|---|
| BMC·기판·소켓 | ASPEED, Lotes, Unimicron | 서버 CPU 출하와 높은 상관관계 |
| 파운드리·OSAT | TSMC, ASE | AMD x86 서버 CPU 점유율 확대 수혜 |
| 메모리 | SK하이닉스, 삼성전자 | DIMM·SOCAMM 수요 증가 |
| 서버 PCB | Tripod | 서버 CPU 밀도 증가에 따른 기판 수요 |
| 범용 서버 ODM | Wiwynn, Inventec | 범용 서버·에이전틱 AI CPU 물량 확대 |
VII. 결론 및 투자 시사점
JP모건 리포트의 핵심은 서버 CPU가 더 이상 GPU의 부수적 존재가 아니라, 에이전틱 AI 시대의 독자적인 슈퍼사이클을 형성하고 있다는 점이다. 특히 에이전틱 AI CPU가 작년 10% 미만에서 2028년 절반 이상으로 비중이 급증하는 궤적은, 이번 AI 인프라 사이클에서 가장 저평가된 성장 스토리 중 하나일 수 있다.
NVL72의 2:1, 차세대 HGX의 8:1 등 벤더별로 엇갈리는 부착률 전망이 실제 출하 데이터에서 어떻게 확인되는지가 AI 헤드노드 CPU 성장률의 신뢰도를 좌우한다.
엔비디아 Vera, 구글 Axion, Arm AGI CPU의 실제 양산 램프업 속도가 2028년 ARM 43% 비중 전망의 달성 여부를 가늠할 지표이며, 동시에 x86의 25% 연평균 성장이 실현되는지도 지켜볼 필요가 있다.
TAM 전망의 상당 부분이 매년 약 10%의 CPU 가격 인상을 전제로 하고 있어, 공급 타이트가 예상보다 빨리 해소되거나 경쟁 심화로 가격 인상 폭이 둔화될 경우 매출 TAM 전망이 하향 조정될 수 있다.
VIII. 함께 보면 좋은 글
서버 CPU·AI 반도체 밸류체인 투자 테마와 함께 보면 좋은 이전 세미데일리 포스트를 소개한다.
JPMorgan: “Server CPUs — A $100 Billion Market by 2028”
Agentic AI Opens a Super-Cycle
Executive Summary
JPMorgan introduced a new proprietary server CPU shipment model, projecting total server CPU shipments to grow from 26 million units in 2025 to 68 million units in 2028, a 38% CAGR. The firm splits server CPU demand into three buckets — AI headnode CPUs, agentic AI server CPUs, and general-purpose server CPUs — arguing that as AI shifts from training to inference, agentic AI and AI headnode demand will drive a “super” server CPU cycle. Assuming roughly 10% annual CPU price increases on tight supply and upgrade cycles, the server CPU TAM is projected to grow at a 53% CAGR from 2025-28, reaching roughly $100 billion by 2028. Agentic AI CPUs stand out as this cycle’s breakout growth driver, projected to grow at a 155% CAGR from 2025-28 and representing more than half of the general-purpose server CPU market by 2028, up from under 10% last year. On architecture, ARM-based CPUs — led by Nvidia’s Vera and Google’s Axion — are gaining share sharply, with ARM projected to reach roughly 90% of AI headnode CPU demand by 2028 and roughly 43% of the overall server CPU market, up from about 22% in 2025. Beneficiaries named span ASPEED, Lotes, and Unimicron at the core, along with TSMC, ASE, SK Hynix, Samsung, Tripod, Wiwynn, and Inventec across the value chain.
I. Background — Why a Proprietary Server CPU Model, Now
In this report, JPMorgan unveils a newly rebuilt, top-down proprietary model for server CPU shipments. Total server CPU shipments are estimated to grow from 22.1 million units in 2024 to 25.7 million in 2025, 36.3 million in 2026, 51.4 million in 2027, and 67.9 million by 2028 — a 38% CAGR from 2025-28. Even excluding AI server headnode CPUs, shipments are projected to grow at a 31% CAGR over the same period. Assuming roughly 10% annual CPU price increases reflecting tight supply and upgrade cycles, server CPU revenue TAM is projected to grow from $21 billion in 2024 to $28 billion in 2025 and roughly $100 billion by 2028 — a 53% CAGR from 2025-28.
II. The Three Demand Buckets — AI Headnode, Agentic AI, General-Purpose
JPMorgan splits server CPU demand into three buckets: AI headnode CPUs, agentic AI server CPUs, and general-purpose server CPUs. As AI shifts from training to inference, agentic AI and AI headnode demand are expected to drive a “super” server CPU cycle. The 2025-28 CAGRs for the three buckets are 74% for AI headnode CPUs, 155% for agentic AI CPUs, and 5% for general-purpose (non-AI workload) server CPUs — general-purpose servers hold steady while the two AI-related buckets drive overall growth.
| Unit in millions | 2024 | 2025 | 2026E | 2027E | 2028E | 25-28 CAGR |
|---|---|---|---|---|---|---|
| 1. AI Server Headnode | ||||||
| Global AI Accelerator Shipments | 7.6 | 9.6 | 16.1 | 25.2 | 32.5 | 50% |
| YoY | – | 27% | 67% | 56% | 29% | |
| Avg. Accelerators per CPU in Headnodes | 4.1 | 3.0 | 2.3 | 2.2 | 1.9 | |
| Headnode Server CPUs Needed | 1.8 | 3.2 | 7.1 | 11.3 | 16.8 | 74% |
| YoY | – | 73% | 124% | 59% | 48% | |
| 2. Regular Server Growth (Non-AI Workloads) | ||||||
| Traditional Server Unit for Non-AI Workload | 11.6 | 11.9 | 12.5 | 13.1 | 13.8 | |
| YoY | 2% | 3% | 5% | 5% | 5% | |
| CPU per Server | 1.8 | 1.8 | 1.8 | 1.8 | 1.8 | |
| Non-AI Workload CPU | 20.3 | 20.9 | 21.9 | 23.0 | 24.2 | 5% |
| YoY | – | 3% | 5% | 5% | 5% | |
| 3. Agentic AI CPU Clusters | ||||||
| CPU per Accelerator Ratio | 0.0 | 0.17 | 0.45 | 0.68 | 0.83 | |
| Total Agentic AI CPUs | 0.0 | 1.6 | 7.3 | 17.1 | 27.0 | 155% |
| YoY | – | – | 352% | 134% | 58% | |
| Total Server CPU Shipment | ||||||
| Total Server CPU Shipment | 22.1 | 25.7 | 36.3 | 51.4 | 67.9 | 38% |
| YoY | – | 16% | 42% | 42% | 32% | |
| Total Shipment Excl. AI Server Headnodes | 20.3 | 22.5 | 29.2 | 40.1 | 51.1 | 31% |
| YoY | – | 11% | 30% | 37% | 27% | |
III. AI Headnode CPUs — A Structural Compression in Attach Rates
For AI headnode CPUs, global AI accelerator shipments — based on the semi team’s CoWoS estimates — are projected to grow from 7.6 million units in 2024 to 32.5 million by 2028 (roughly a 50% CAGR from 2025-28), with rising CPU attach rates per accelerator driving stepwise demand growth. The accelerator-to-CPU ratio is compressing from roughly 4:1 in legacy HGX servers to about 2:1 in NVL72 compute trays, with potential for 1:1 in next-generation TPU designs. By vendor, Nvidia’s NVL72 sits at 2:1 (though next-gen HGX actually rises to 8:1), AMD’s MI300/MI455 Helio at 4:1, Google’s TPU v8 mixes 1:1 and 2:1 designs, and AWS Trainium is expected to fall from 16:1 to 4:1 in its T3 liquid-cooled project. As a result, AI headnode CPUs are projected to grow at roughly a 74% CAGR from 2025-28, with headnode server CPU demand rising from 1.8 million units in 2024 to 16.8 million by 2028.
| Vendor/Platform | Accelerator:CPU Ratio Shift | Note |
|---|---|---|
| Nvidia NVL72 | 4:1 (HGX) → 2:1 | Next-gen HGX actually rises to 8:1 |
| AMD MI300/MI455 Helio | Steady at 4:1 | |
| Google TPU v8 | Mixed 1:1 / 2:1 | Potential for 1:1 in next-gen design |
| AWS Trainium (T3 liquid-cooled) | 16:1 → 4:1 | Based on liquid-cooling project |
IV. Agentic AI CPUs — This Cycle’s Breakout Driver
Agentic AI CPUs stand out as this cycle’s breakout growth driver, projected to grow at a 155% CAGR from 2025-28. As AI workloads shift toward inference, hyperscalers are adding general-purpose servers around accelerators to improve TCO — external storage servers for KV caching and compute servers for query orchestration — with this year’s ratio of roughly one CPU per two accelerators (about 0.5x) expected to rise as accelerator complexity increases. This is projected to become the key incremental demand source, representing more than half of the general-purpose server CPU market by 2028, up from under 10% last year, while general-purpose server CPUs overall hold a steady roughly 5% CAGR. Indeed, BofA made a similar argument in June, assessing that agentic AI’s orchestration and decision-making functions are latency-sensitive, sequential, and I/O-intensive — better suited to CPUs than GPUs — and raised its 2030 server CPU TAM forecast from $125 billion to over $170 billion.
Arm estimates that while legacy AI data centers require roughly 30 million CPU cores per GW, the agentic AI era could push that to as much as 120 million cores per GW — a 4x increase. Some analyses suggest CPU cores account for 50-90% of total workflow latency, reinforcing the logic that the CPU-to-GPU ratio in AI clusters will keep rising.
V. The Architecture Shift — ARM Takes 90% of Headnode Demand
On architecture, ARM-based CPUs — led by Nvidia’s Vera and Google’s Axion — are gaining share sharply, with ARM projected to reach roughly 90% of AI headnode CPU demand by 2028 and roughly 43% of the overall server CPU market, up from about 22% in 2025. That said, the x86 CPU market is also expected to accelerate to a 25% CAGR, a marked change from the stagnation of the prior cycle; on a bottom-up basis, x86 and ARM are projected to post 25% and 72% CAGRs, respectively. Indeed, real products have begun shipping this year — Nvidia unveiled its 88-core Vera CPU at GTC in March (forming 22,528 cores across a 256-CPU rack), and Arm announced its first in-house production silicon, the AGI CPU (136 cores, 300W), on March 24. Google claims its Axion CPUs deliver roughly 65% better price-performance and 60% better energy efficiency versus comparable x86 chips, with Microsoft’s Cobalt 100 and Amazon’s Graviton4 showing similar efficiency advantages.
VI. Value Chain Beneficiaries
On beneficiaries, JPMorgan named ASPEED, Lotes, and Unimicron as core plays, citing high correlation between server CPU demand and BMC, substrate, and socket demand, while AMD’s expanding x86 server CPU share is seen as positive for foundry/OSAT players TSMC and ASE. Rising DIMM/SOCAMM demand is expected to benefit memory vendors SK Hynix and Samsung Electronics, while downstream, server PCB maker Tripod and general-purpose server ODMs Wiwynn and Inventec were flagged as potential beneficiaries.
| Value Chain Segment | Beneficiaries | Rationale |
|---|---|---|
| BMC/Substrate/Socket | ASPEED, Lotes, Unimicron | High correlation with server CPU shipments |
| Foundry/OSAT | TSMC, ASE | Benefits from AMD’s x86 server CPU share gains |
| Memory | SK Hynix, Samsung Electronics | Rising DIMM/SOCAMM demand |
| Server PCB | Tripod | Substrate demand from rising CPU density |
| General-Purpose Server ODM | Wiwynn, Inventec | Expanding general-purpose/agentic AI CPU volume |
VII. Conclusion and Investment Implications
The core takeaway from this JPMorgan report is that server CPUs are no longer a mere accessory to GPUs but are forming their own independent super-cycle in the agentic AI era. In particular, agentic AI CPUs surging from under 10% of the market last year to over half by 2028 may be one of the most underappreciated growth stories in this AI infrastructure cycle.
How vendor-specific attach rate forecasts — NVL72’s 2:1, next-gen HGX’s 8:1, and others — play out in actual shipment data will determine the credibility of AI headnode CPU growth projections.
The actual production ramp speed of Nvidia’s Vera, Google’s Axion, and Arm’s AGI CPU will indicate whether the 2028 ARM-43%-share forecast materializes, while whether x86’s projected 25% CAGR also holds is worth watching.
Much of the TAM forecast rests on roughly 10% annual CPU price increases; if supply tightness eases faster than expected or intensifying competition slows price growth, the revenue TAM forecast could be revised down.
VIII. Related Reading
For further context on server CPUs and the AI semiconductor value chain, see these related semidaily posts.
