삼성·하이닉스, 차세대 메모리 경쟁…HBM 다음은 어떤 ‘쌓는 메모리’인가

AI 메모리 경쟁의 무대가 고대역폭메모리(HBM)의 성능 개선을 넘어 3차원 적층 기술로 넓어지고 있다.

AI 모델이 커지고 추론·AI 에이전트 서비스가 확산하면서 데이터 처리 속도뿐 아니라 전력 효율과 저장 용량도 중요해졌기 때문이다.

삼성전자와 SK하이닉스는 연산 반도체 가까이에 메모리를 쌓아 데이터 이동을 줄이는 기술을 각각 내놓고 있다.

삼성전자의 ‘zHBM’은 AI 가속기 위에 HBM을 직접 얹는 구조다.

데이터 이동 거리를 최소화해 병목을 줄이고 전력 효율을 높인다는 구상으로, 삼성전자는 8세대 제품 HBM5와 비교해 GPU당 성능을 최대 8배, 전력 대비 성능을 최대 3배 끌어올릴 수 있다고 설명한다.

온디바이스 AI용 ‘z낸드-O’는 기존 V낸드의 수직 적층에 실리콘관통전극(TSV)을 결합해, D램의 용량 부족과 낸드의 낮은 대역폭을 함께 보완하려는 솔루션이다.

SK하이닉스는 GPU나 신경망처리장치(NPU) 위에 D램을 쌓는 3D 적층 D램으로 연산기에 데이터를 빠르게 공급하고 전력 소비를 낮추려 한다.

저장 용량을 늘릴 대안으로 개발 중인 고대역폭 낸드플래시(HBF)는 HBM의 속도와 낸드의 대용량을 결합한 메모리 계층이다.

목표는 같은 세대 HBM의 절반 수준 대역폭을 확보하면서 용량은 약 10배로 키우는 것이다.

두 회사는 올해 상반기 저전력 D램 기반 서버용 메모리 모듈 SOCAMM2 양산에도 들어갔다.

삼성전자는 지난달 16GB LPDDR6을 퀄컴 ‘스냅드래곤 8 엘리트 익스트림 6세대’ 플랫폼에서 업계 최초로 검증했다.

AI 서버의 메모리 용량을 늘리는 CXL과 메모리 모듈(CMM)도 경쟁 분야다.

이제 승부는 개별 메모리의 속도뿐 아니라 서버 전체의 운영 효율과 상용화 뒤 비용 절감 효과까지 좌우할 수 있다.