메모리 논쟁의 축이 조용히 바뀌었다
오랫동안 “빠른 메모리”란 곧 “빠른 셀”을 뜻했다. 더 미세한 공정, 더 높은 클럭, 더 많은 뱅크. 그런데 AI 가속기 시대에 실제로 시스템을 목 조르는 것은 셀 자체가 아니라 셀에서 연산 유닛까지 데이터를 나르는 통로다.
HBM이 등장한 이유도 여기에 있다. 셀이 극적으로 빨라진 게 아니라, 프로세서 옆에 메모리를 수직으로 쌓아 배선을 짧고 넓게 만든 것이다. 즉 최근 10년의 메모리 혁신은 상당 부분 “연산”이 아니라 “이동”의 문제였다. CPO(Co-Packaged Optics)를 메모리 인터페이스로 확장한다는 로드맵은 이 흐름의 다음 장(章)에 대한 이야기다 — 통로를 아예 전기에서 빛으로 바꾼다는 것.
전기 배선이 동시에 부딪히는 세 개의 벽
전기로 신호를 나르는 구리 배선에는 물리적으로 얽힌 세 가지 한계가 있다.
- 거리 손실: 신호 주파수가 올라갈수록 배선은 신호를 더 심하게 깎아먹는다(감쇠). 그래서 고속 신호는 멀리 못 간다 — 멀리 보내려면 중간에 신호를 되살리는 회로가 필요하고, 그게 전력을 먹는다.
- 비트당 에너지(energy-per-bit): 데이터 1비트를 나르는 데 드는 에너지는 대역폭이 커질수록, 거리가 멀수록 늘어난다. 데이터센터 전력 예산의 상당 부분이 “연산”이 아니라 “이동”에 쓰인다.
- 배선 밀도(대역폭 밀도): 한 변의 길이당 몇 개의 초고속 채널을 뽑을 수 있는가. 전기 채널은 서로 간섭(크로스토크)해서 무한정 촘촘히 못 붙인다. 이것이 “칩 가장자리(beachfront)” 병목이다.
핵심은 이 셋이 서로를 악화시킨다는 점이다. 밀도를 높이면 간섭이 늘고, 거리를 늘리면 에너지가 폭증한다. 전기는 이 삼중 제약의 교집합에서 벽에 부딪힌다.
빛의 우위는 ‘속도’가 아니라 ‘거리에 둔감한 밀도와 에너지’다
광 신호의 진짜 매력은 흔히 오해되는 “더 빠름”이 아니다. 광섬유·도파로에서 신호는 거리가 늘어도 손실이 거의 늘지 않는다. 또한 하나의 물리 통로에 서로 다른 파장(색)을 겹쳐 보내는 방식(파장분할)으로 대역폭 밀도를 전기보다 훨씬 높일 수 있다. 비트당 에너지도 특히 장거리에서 유리해진다.
하지만 여기에 결정적인 조건이 붙는다. 광을 쓰려면 양쪽 끝에 전기↔빛 변환기(트랜시버)가 있어야 하고, 이 변환 회로 자체가 전력·면적·비용이라는 고정비용을 만든다. 그래서 광의 우위는 거리와 대역폭이 일정 임계를 넘어야 비로소 전기를 앞선다. 짧고 데이터량이 적은 구간에서는 오히려 전기가 싸다.
거리와 변환 고정비용에 따라 전기 비용 곡선과 광 비용 곡선이 어디서 교차하는지 — 즉 언제 광이 유리해지는지 — 가 갈린다.
CPO가 ‘메모리 옆’까지 온다는 것의 의미
지금까지 광은 주로 스위치·서버 간 같은 상대적으로 먼 구간에 쓰였다. 거리가 멀수록 광의 조건부 우위가 명확하기 때문이다. 반대로 프로세서 바로 옆, 메모리 인터페이스처럼 가장 짧고 가장 촘촘한 구간은 전기가 지켜온 성역이었다.
CPO를 메모리 인터페이스로 확장한다는 로드맵의 개념적 무게는 여기에 있다. 변환 트랜시버를 패키지 안으로 끌어들여 고정비용을 낮추면, 광의 손익분기 거리가 점점 짧아진다. 그러면 “가장 가까운 구간”까지도 언젠가 광이 넘볼 수 있게 된다는 것이다.
이때 바뀌는 것은 단순한 부품이 아니라 성능을 재는 단위다. 지금까지 우리는 메모리를 “핀 속도 × 채널 수” 같은 칩 스펙으로 읽었다. 광이 패키지 안으로 들어오면 의미 있는 지표는 패키지 한 변에서 뽑아내는 총 대역폭, 그리고 그것을 유지하는 비트당 에너지로 재정의된다. 칩의 숫자만 보던 눈으로는 이 전환을 오독하기 쉽다.
이 개념을 지표로 읽을 때 주의할 것
로드맵이 발표됐다고 해서 오늘 당장 시스템이 바뀌는 것은 아니다. 광 변환 회로의 신뢰성, 발열, 결합 정렬, 수율, 그리고 무엇보다 비용이 임계를 넘어야 실제 채택이 온다. 개념으로서의 방향과, 상용화 타이밍은 다른 축이다. 그래서 이 글이 파는 것은 “언제”가 아니라 “왜 이 방향인가”의 물리적 구조다.
이 글은 특정 종목이나 ETF를 사라거나 팔라는 이야기가 아니고, 목표가·수익·방향성을 예측하지도 않는다. 광 인터커넥트라는 개념이 메모리 성능을 “재는 방식”을 어떻게 바꾸는지를 이해하기 위한 교육 자료다. 지표는 여전히 여러분이 직접 재고 해석해야 할 대상이다.