메모리 스펙표를 볼 때 우리는 보통 두 숫자만 본다. 대역폭(초당 몇 GB)과 용량(몇 GB). 이 두 축으로만 보면 HBF는 매력적이다. 낸드의 큰 용량에 HBM식 적층·인터페이스를 붙여 대역폭을 크게 끌어올렸으니, “용량도 크고 빠르다”가 된다. 그런데 Hot Chips 2026에서 HBF에 붙은 평가는 정반대의 뉘앙스였다 — “사용처가 극히 제한적”이다. 왜 두 숫자가 좋은데 못 쓴다는 말이 나오나. 답은 스펙표에 없는 세 번째·네 번째 축에 있다.
대역폭·용량은 ‘흐름’을 재고, 내구성·접근성은 ‘방식’을 잰다
대역폭은 파이프의 굵기다. 한 번에 얼마나 많은 데이터가 흐르는가. 용량은 창고의 크기다. 얼마나 담을 수 있는가. 이 두 축은 “얼마나”를 잰다.
하지만 메모리를 실제로 쓰는 방식에는 다른 질문들이 있다. 같은 자리를 얼마나 자주 덮어쓰는가(쓰기 빈도), 데이터를 순서대로 읽나 아니면 흩어진 곳을 무작위로 오가나(순차 vs 랜덤), 읽기가 많나 쓰기가 많나(접근 편향). 이 질문들은 “어떻게”를 잰다.
DRAM(그리고 HBM)이 연산 작업 메모리로 쓰이는 이유는 “얼마나”가 아니라 “어떻게” 때문이다. DRAM은 어느 자리든 균일하게 빠르게 읽고 쓸 수 있고, 몇 번을 덮어써도 닳지 않는다. HBF는 대역폭이라는 “얼마나” 축에서 DRAM에 근접했지만, “어떻게” 축에서는 여전히 낸드다. 여기서 사용처의 벽이 생긴다.
낸드의 세 가지 물리적 성질 — 스펙표에 안 나오는 제약
HBF가 물려받는 낸드의 성질은 세 가지다.
첫째, 쓰기 내구성(P/E 사이클 한계). 낸드 셀은 쓰기와 소거를 반복할 수 있는 횟수가 유한하다. 셀에 전하를 넣고 빼는 과정이 물리적으로 셀을 마모시킨다. DRAM은 사실상 무한히 덮어쓸 수 있지만, 낸드는 특정 자리를 계속 갱신하면 그 자리가 먼저 죽는다.
둘째, 블록 단위 소거. 낸드는 바이트 단위로 지우지 못한다. 작은 값 하나를 바꾸려 해도 그것이 속한 큰 블록 전체를 지우고 다시 써야 한다. 이 “읽기-수정-쓰기” 증폭(write amplification)은 실질 쓰기량을 명목보다 크게 만들고, 내구성을 더 빨리 소모한다.
셋째, 랜덤 접근 페널티. 순차적으로 큰 덩어리를 읽을 때 낸드의 대역폭은 빛난다. 하지만 흩어진 작은 데이터를 무작위로 오가면, 순차일 때의 대역폭이 나오지 않는다. HBF의 큰 대역폭 숫자는 대개 순차·대용량 전송 기준이다.
이 세 가지는 대역폭·용량 두 숫자에는 전혀 드러나지 않는다. 그래서 스펙표만 보면 “왜 못 쓴다는 거지?”가 이해되지 않고, 워크로드를 봐야 비로소 벽이 보인다.
워크로드로 되짚기 — 왜 사용처가 좁아지나
이 제약들을 워크로드 성질로 뒤집으면 HBF의 적합 지대가 드러난다.
- 매 스텝 갱신되는 데이터(예: 연산 중 계속 바뀌는 값)는 쓰기 내구성을 빠르게 소모한다 → 부적합.
- 작고 흩어진 데이터를 무작위로 읽고 쓰는 패턴은 랜덤 페널티와 소거 증폭을 동시에 맞는다 → 부적합.
- 반대로 한 번 쓰고 여러 번 읽는, 크고 순차적으로 접근되는, 자주 바뀌지 않는 데이터는 낸드의 세 제약을 거의 건드리지 않는다 → 적합도가 높아진다.
즉 HBF의 사용처가 좁다는 말은 “성능이 나쁘다”가 아니라 “적합한 접근 패턴이 특정 영역에 몰려 있다”는 뜻이다. 대역폭·용량이라는 두 축에서 넓어 보이던 것이, 내구성·접근성이라는 축을 더하는 순간 좁아진다. 이것이 HBM 대체 논의를 대역폭 경쟁이 아니라 접근 패턴 문제로 봐야 하는 이유다 — 워크로드가 읽기 편향·저갱신이면 겹치고, 쓰기 빈번이면 겹치지 않는다.
축을 하나 더 그어야 보이는 것
메모리 비교의 흔한 함정은 축을 두 개(빠름·큼)만 그어놓고 우열을 매기는 것이다. 실제 적합성은 최소 네 축 — 대역폭, 용량, 내구성, 접근 패턴 — 위에서 결정된다. HBF는 앞의 두 축에서 강하고 뒤의 두 축에서 낸드의 한계를 물려받은 매체다. “제한적”이라는 평가는 열등하다는 뜻이 아니라, 강점 축과 약점 축이 뚜렷이 갈린다는 관측이다.
이 글은 특정 메모리 제품이나 그것을 만드는 기업의 주식을 사라거나 팔라는 이야기가 아니다. 어떤 기술이 “유망하다/아니다”를 점치는 글도 아니다. 대역폭 숫자 뒤에 숨은 물리적 제약이 어떻게 사용처를 결정하는지를 개념으로 이해하기 위한 교육 자료다. 실제 채택 여부와 시점은 워크로드·비용·생태계가 함께 결정하며, 그 판단은 각자의 몫이다.