JP모건 데이터센터 워치
LLM 토큰 재가속, GPU는 5개월 연속 상승
메모리는 DRAM·NAND 엇갈림
Executive Summary
JP모건의 데이터센터 워치 보고서는 LLM 토큰 물량과 가격, GPU 임대 가격, 메모리 비용 등 AI 인프라 수요 관련 핵심 데이터를 매월 정리합니다. 6월 데이터는 AI 인프라 수요 환경에 전반적으로 긍정적인 흐름을 시사합니다. OpenRouter 기준 LLM 토큰 물량은 전월 대비 70% 증가하며 연초 이후 둔화 흐름을 뒤집고 재가속되었고, 이는 전년 대비 LLM 토큰 가격 하락을 상쇄하고도 남는 수준입니다. GPU 임대 가격은 A100·H100·B200 전 등급에서 전월 대비 상승세를 이어갔습니다. JP모건은 보수적인 토큰 가격 가정 하에서도 모델 제공업체들의 토큰 이코노믹스가 방향성상 우호적으로 전개되고 있다고 추정했습니다. 한편 메모리 시장은 엇갈렸는데, DRAM 현물가격(DDR5 16Gb)은 전년 대비 740% 급등하며 3개월 연속 상승한 반면, NAND 현물가격(1Tb)은 3개월 연속 소폭 하락했습니다.
I. LLM 토큰 트래커: 6월 재가속의 배경
1.1 조사 방법론
JP모건의 LLM 토큰 트래커는 매월 1주일간의 사용량과 가격 데이터를 포착해, 단일 엔드포인트를 통해 API 요청을 모델로 라우팅하는 집계 플랫폼인 OpenRouter에 상장된 약 300개 LLM 전반의 추세에 대한 월간 스냅샷을 제공합니다. OpenRouter는 개발자·스타트업·에이전틱 코딩 트래픽에 치우쳐 있으며, OpenAI·Anthropic 직접 API나 하이퍼스케일러 호스팅 엔드포인트 등 1차 API 물량은 제외된다는 점에 유의해야 합니다.
1.2 토큰 물량: 둔화에서 재가속으로
토큰 물량 증가세는 2026년 초까지의 성장 둔화 이후 6월에 가속화되어 전월 대비 70% 증가했습니다. 이는 5월의 33%, 4월의 5% 증가 대비 뚜렷하게 높은 수준입니다. 전년 대비로는 20배 증가했으며, 이는 5월의 12배, 4월의 15배보다 높습니다.
1.3 미국 모델의 물량 점유율 하락, 지출 점유율은 압도적
미국 기반 모델(OpenAI, Anthropic, Google, xAI 등)은 전체 토큰 물량의 35%를 차지했는데, 이는 5월 46%, 4월 56%에서 낮아진 수치입니다. 다만 이들 모델의 물량 자체도 6월에 성장세가 가속화되어 전월 대비 30% 증가(5월 9%, 4월 23%)했으며, 전년 대비로는 8배 증가했습니다. 흥미롭게도 미국 기반 모델은 물량 점유율은 35%에 그쳤지만, 지출에서는 85% 이상을 차지하며 압도적인 지배력을 유지했습니다.
II. 토큰 가격과 지출: 하락 폭 완화, 지출은 급증
2.1 토큰 가격 하락률 둔화
토큰 가격은 6월에도 전년 대비 하락 추세를 이어갔지만, 최근 몇 달에 비해서는 하락 폭이 더 완만해졌습니다. 평균 토큰 가격은 6월에 전월 대비 7% 상승(5월 5%, 4월 19% 상승)했으나, 전년 대비로는 5% 하락(5월 21% 하락, 4월 24% 하락)에 그쳐 하락률이 눈에 띄게 둔화되었습니다. JP모건은 이러한 하락률 둔화가 미국 기반 모델의 강한 가격 흐름에 의해 주도되었다고 평가했습니다. 물량 가중 평균 기준 미국 모델 가격은 전월 대비 27% 상승, 전년 대비 77% 상승했습니다.
2.2 토큰 지출 70% 급증
토큰 지출 증가세도 최근 2개월간의 둔화 이후 6월에 가속화되어 전월 대비 70% 증가(5월 23%, 4월 21%)했으며, 전년 대비로는 16배 증가했습니다. 미국 기반 모델에 대한 지출은 전체의 85% 이상을 차지했고, 전월 대비 65% 증가, 전년 대비 14배 증가했습니다.
| 지표 | 4월(MoM) | 5월(MoM) | 6월(MoM) |
|---|---|---|---|
| 전체 토큰 물량 | +5% | +33% | +70% |
| 전체 토큰 가격 | +19% | +5% | +7% |
| 전체 토큰 지출 | +21% | +23% | +70% |
JP모건은 자체 샘플과 단순화된 가정을 바탕으로, 보수적인 토큰 가격을 가정하더라도 모델 제공업체들의 토큰 이코노믹스가 방향성상 우호적으로 전개되고 있다고 추정했습니다. 물량 증가가 가격 하락을 상쇄하고도 남는 구조가 이어지고 있다는 의미입니다.
III. 상위 모델 지형: Claude Opus 4.7의 존재감
6월 토큰 사용량 기준 상위 5개 모델은 1) DeepSeek V4 Flash, 2) MiMo-V2.5, 3) MiniMax M3, 4) Hy3 preview, 5) Claude Opus 4.7이었으며, 이들이 전체 토큰 물량의 45%를 차지했습니다. 그러나 지출 기준으로는 6월 상위 5개 모델이 1) Claude Opus 4.7, 2) Claude Opus 4.8, 3) GPT-5.5, 4) Claude Sonnet 4.6, 5) GLM 5.2였으며, 이들이 전체 토큰 지출의 75%를 차지했습니다.
IV. GPU 임대 가격: 전 등급 동반 상승
4.1 A100·H100·B200 가격 추이
6월 비하이퍼스케일러 용량의 GPU 임대 가격은 전반적으로 전월 대비 상승세가 이어졌으며, Nvidia GPU 3개 등급인 A100, H100, B200 모두 가격이 전월 대비 상승했습니다. A100 임대 가격은 6월 평균 GPU-시간당 1.63달러로 전월 대비 6.3% 상승하며 5개월 연속 상승세를 이어갔습니다. H100 임대 가격은 GPU-시간당 2.72달러로 전월 대비 3.7% 상승하며 7개월 연속 상승했습니다. B200 임대 가격은 GPU-시간당 5.33달러로 전월 대비 2.7% 상승했습니다.
4.2 등급 간 가격 배율 축소
B200 가격은 H100의 약 1.96배, H100 가격은 A100의 약 1.67배 수준으로, 두 배율 모두 최근 수개월간 소폭씩 낮아지는 추세입니다. B200 대 H100 비율은 5월 1.98배, 4월 2.04배, 2025년 9월 지수 출시 당시 약 2.58배에서 지속적으로 좁혀지고 있습니다.
V. 메모리 가격 트래커: DRAM 급등 vs NAND 조정
5.1 DRAM: 3개월 연속 상승, 전년比 740%
DRAM 현물 가격은 6월에도 상승세를 이어갔으며, DDR5 16Gb는 전년 대비 8배 이상 상승했습니다. DDR5 16Gb 현물 가격은 6월 43.14달러에 도달했으며, 전월 대비 10% 상승했습니다(5월 39.24달러, 4월 33.12달러). 전년 대비로는 740% 상승했으며, 이는 2025년 6월의 5.13달러와 비교됩니다. 2월과 3월의 완만한 전월 대비 하락 이후 3개월 연속 전월 대비 상승세를 기록 중입니다.
5.2 NAND: 3개월 연속 소폭 하락, 그래도 전년比 412%
NAND 현물 가격은 6월 전월 대비 소폭 하락했으나, NAND 1Tb는 여전히 전년 대비 5배 이상 높은 수준입니다. NAND 1Tb 현물 가격은 6월 27.03달러를 기록했으며, 전월 대비 0.3% 소폭 하락했습니다(5월 27.12달러, 4월 27.43달러). 전년 대비로는 412% 상승했으며, 이는 2025년 6월의 5.28달러와 비교됩니다. 1분기의 강한 상승 이후 3개월 연속 완만한 전월 대비 하락이 이어지고 있습니다.
DRAM은 3개월 연속 상승, NAND는 3개월 연속 하락이라는 상반된 흐름이 나타나고 있습니다. 이는 AI 서버·GPU向 고대역폭 메모리 수요가 DRAM 쪽에 더 집중되어 있는 반면, NAND는 상대적으로 공급 조정이 빠르게 진행되고 있음을 시사합니다. 다만 두 품목 모두 전년 대비로는 여전히 4~8배 높은 가격 수준을 유지하고 있어, 절대적인 메모리 가격 부담 자체는 여전히 큽니다.
VI. 종합: AI 인프라 수요 환경 진단
JP모건은 최신 데이터가 AI 인프라 수요 환경에 전반적으로 긍정적인 흐름을 시사한다고 평가했습니다. LLM 사용량 확대가 전년 대비 토큰 가격 하락을 상쇄하고도 남는 수준이며, GPU 임대 가격은 전월 대비 지속적으로 상승하고 있습니다. 메모리 가격은 DRAM·NAND가 엇갈리지만, 두 품목 모두 절대 수준에서는 여전히 전년 대비 큰 폭으로 높은 상태를 유지하고 있습니다.
| 구분 | 6월 동향 | 연속 추세 |
|---|---|---|
| LLM 토큰 물량 | 전월비 +70%, 전년비 20배 | 재가속 |
| GPU 임대가(H100) | 전월비 +3.7% | 7개월 연속 상승 |
| DRAM(DDR5 16Gb) | 전월비 +10%, 전년비 +740% | 3개월 연속 상승 |
| NAND(1Tb) | 전월비 -0.3%, 전년비 +412% | 3개월 연속 하락 |
VII. 결론 및 관전 포인트
이번 데이터센터 워치는 AI 인프라 수요가 여전히 견조하다는 점을 여러 각도에서 뒷받침합니다. 특히 LLM 토큰 물량과 지출이 동시에 재가속되고, GPU 임대 가격이 5~7개월 연속 상승하고 있다는 점은 AI 컴퓨팅 수요가 공급 확대 속도를 계속 앞지르고 있음을 시사합니다.
미국 기반 모델의 물량 점유율은 낮아지고 있지만 가격은 오히려 오르고 있어(전년비 +77%), 지출 점유율 85% 이상을 유지하고 있습니다. 저가 오픈소스 모델과의 물량 경쟁이 심화되는 가운데서도 프리미엄 모델의 가격 결정력이 유지되고 있는지가 핵심 관전 포인트입니다.
B200 대 H100 가격 배율이 출시 초기 2.58배에서 1.96배까지 좁혀지고 있다는 점은, 최신 GPU 공급이 점차 확대되며 구형 GPU 대비 프리미엄이 축소되고 있음을 시사합니다. 이는 향후 GPU 조달 전략에도 영향을 줄 수 있는 변수입니다.
DDR5 16Gb 가격이 전년 대비 740% 상승했다는 것은 이례적인 수준으로, AI 서버향 수요 집중에 따른 공급 부족이 상당 기간 이어지고 있음을 보여줍니다. 이러한 가격 급등이 메모리 업체들의 실적에는 우호적이나, 서버·GPU 제조원가 상승을 통해 AI 인프라 투자 비용 부담으로 이어질 수 있다는 점은 유의할 필요가 있습니다.
