직접 움직여 보세요 — 조건을 바꾸면 두 값이 어떻게 갈라지는지 보입니다.
”많을수록 좋다”가 깨지는 지점
HBM(고대역폭 메모리)은 오랫동안 AI 가속기 설계에서 단순한 부품이었다. 넣을 수 있는 만큼 넣으면 대역폭과 용량이 늘고, 그만큼 더 큰 모델을 더 빠르게 다룰 수 있다 — ‘많을수록 좋다’가 지배하는 세계였다.
이 관성이 유지되는 이유는 단 하나, 부품 한 단위를 더 넣어 얻는 성능 이득이 그 비용보다 컸기 때문이다. 단가가 낮고 성능 이득이 크면, 설계자는 물리적·전력적 한계에 부딪힐 때까지 계속 채워 넣는다. 이때 탑재량을 정하는 건 “기술 한계”다.
차세대 AI 칩의 HBM 용량을 최대 81%까지 줄이는 방안을 검토한다는 보도는, 바로 이 관성이 흔들리는 순간을 보여준다. 기술이 후퇴한 게 아니다. 부품의 가격표가 설계 방정식의 주인공으로 올라선 것이다.
부품은 어떻게 ‘성능 축’에서 ‘원가 축’으로 이동하나
핵심은 한계(marginal) 개념이다. 부품을 하나 더 넣을 때:
- 한계 이득 = 그 부품이 추가로 만들어내는 성능 (대역폭·용량 증가분)
- 한계 비용 = 그 부품의 단가 + 전력·발열·기판 면적 같은 부수 비용
설계자는 이 둘이 만나는 지점까지 채운다. 단가가 낮을 때는 이 교차점이 물리적 한계 근처에 있으니, 사실상 “넣을 수 있는 만큼” 넣는 것처럼 보인다. 그래서 HBM은 오랫동안 성능 축의 부품으로만 읽혔다.
그런데 단가가 급등하면 한계 비용 곡선이 위로 밀린다. 교차점이 왼쪽으로, 즉 더 적은 탑재량 쪽으로 이동한다. 같은 칩, 같은 기술인데도 최적 탑재량이 내려간다. 이 순간 HBM은 성능 축에서 원가 축의 변수로 자리를 옮긴다 — 얼마나 넣을지가 물리 한계가 아니라 회계 계산으로 결정되기 시작하는 것이다.
아래에서 부품 단가와 성능 민감도를 직접 움직여, 최적 탑재량이 어디로 이동하는지 만져 보라.
교차점은 산술적 최적 지점입니다. 특정 상품의 매매 시점이나 목표가가 아닙니다.
줄어든 자리는 무엇으로 채워지나
탑재량을 줄인다고 해서 성능이 그대로 사라지는 것은 아니다. 시스템 설계는 여러 계층으로 되어 있고, 한 계층을 줄이면 다른 계층으로 부담을 옮기려 한다. 개념적으로 세 방향이 있다:
- 다른 메모리 계층으로 대체 — HBM보다 느리지만 싸고 용량이 큰 계층(플래시 기반 대역폭 확장 등)으로 일부 워크로드를 흘려보낸다. (참고: HBF: 플래시 대역폭 vs HBM)
- 구조·소프트웨어로 흡수 — 캐시 재사용, 데이터 배치, 스케줄링을 개선해 같은 대역폭으로 더 많은 일을 하게 만든다.
- 성능 목표 자체의 재정의 — ‘최대 성능’이 아니라 ‘원가당 성능(성능/달러)‘을 최적화 대상으로 바꾼다.
여기서 비직관적인 지점: 원가 제약이 오히려 설계 다양성을 늘린다. 단가가 쌀 때는 모두가 “최대로 채우는” 하나의 답으로 수렴하지만, 단가가 비싸지면 워크로드마다 최적 배치가 달라져 설계 선택지가 벌어진다. 부품 부족이나 고가가 반드시 ‘나쁜 뉴스’로만 읽히지 않는 이유다.
공급자 쪽에서 보면: 물량과 단가가 갈라선다
수요처가 ‘무조건 최대 탑재’라는 관성을 버리면, 부품 공급자의 매출 구조도 개념적으로 달라진다.
‘최대 탑재’ 시대에는 매출이 대체로 물량을 따라간다 — 칩이 많이 팔릴수록, 칩당 부품 수가 클수록 매출이 는다. 하지만 탑재량이 경제적 최적으로 조정되면, 매출은 물량 × 단가 × 칩당 탑재량의 삼자 곱으로 분해되고, 이 셋이 같은 방향으로 움직인다는 보장이 사라진다.
- 단가가 오르면 → 칩당 탑재량은 줄어들 수 있다 (본 글의 메커니즘)
- 단가가 오르면 → 같은 물량에서도 매출액은 커질 수 있다
- 이 둘이 상쇄되거나 어긋나면서, “물량이 늘어도 부품 매출은 예상만큼 안 늘거나”, 반대 상황이 나타난다
이 구조는 메모리 공급 레버리지와 고객 믹스와 B2B 매출 비중에서 다룬 논리와 맞닿아 있다. 핵심은 탑재량이 고정 상수가 아니라 가격에 반응하는 변수가 되는 순간, 밸류체인 전체의 매출 감응도가 재배선된다는 것이다.
이 개념은 이번 세대만의 이야기가 아니다
‘성능 부품의 단가가 급등하면 탑재량이 재조정된다’는 것은 반도체 역사에서 반복돼 온 구조다. 특정 세대의 특정 칩은 예시일 뿐이다. 단가·성능 곡선이 교차하는 지점은 세대가 바뀔 때마다 다시 계산되고, 그때마다 ‘많을수록 좋다’는 관성은 ‘얼마가 최적인가’라는 질문으로 대체된다.
이 글은 특정 종목이나 ETF를 사라거나 팔라는 이야기가 아니며, 어떤 부품의 탑재량 변화가 특정 기업 실적에 유리하거나 불리하다고 단정하지도 않는다. 부품이 ‘성능 축’에서 ‘원가 축’으로 이동할 때 설계와 매출 구조가 어떻게 재배치되는지를 개념으로 재는 교육 자료다. 실제 수치와 판단은 각자의 몫이다.