SK하이닉스가 AI 추론 시장의 급성장으로 새로운 메모리 병목이 발생하고 있다며, 기존 HBM 중심 구조에서 3D 적층 D램과 고대역폭플래시(HBF) 기반의 다층 메모리 아키텍처로 전환을 공식화했다. 안현 SK하이닉스 개발총괄 사장은 14일 서울 코엑스에서 열린 반도체대전(SEDEX) 2026 기조연설에서 "AI 연산량뿐 아니라 모델 가중치와 중간 데이터의 저장·이동 수요도 함께 증가하면서 HBM, D램, SSD 등 메모리 계층 간 성능 격차와 데이터 이동 자체가 병목이 되고 있다"고 진단했다. 이에 따라 AI 인프라를 구축하는 데이터센터와 AI 가속기 제조사, 클라우드서비스제공자(CSP)는 메모리 계층 구조 변화에 맞춘 제품 설계와 조달 전략을 검토해야 하는 상황이다.
SK하이닉스가 제시한 3D 적층 D램은 GPU·NPU 등 프로세서 위에 D램을 직접 쌓아 데이터 이동 거리를 줄이는 기술로, 실리콘관통전극(TSV) 연결을 통해 기존 HBM보다 입출력(I/O) 성능을 수십 배 높이는 것을 목표로 한다. 안 사장은 "현존하는 가장 빠른 메모리는 S램"이라며 "S램과 HBM 사이에 새로운 계층의 메모리가 개발돼야 한다"고 설명했다. HBF는 HBM의 TSV 적층 및 고속 I/O 기술을 낸드플래시에 적용한 차세대 메모리로, HBM과 SSD 사이의 새로운 계층을 담당한다. 안 사장은 "HBF는 용량이 기존보다 10배 이상 증가할 것"이라며 "대용량 데이터 반복 읽기가 중심인 AI 추론에 적합한 모델"이라고 강조했다.
HBF 표준화는 현재 구체적인 진전을 보이고 있다. 안 사장은 "샌디스크를 비롯해 구글 등 CSP들과 HBF 표준화 작업을 협력 중"이라며 "내년 1월이면 HBF 정식 표준 규격(v1.0)이 나올 것으로 본다"고 말했다. 이는 AI 반도체·서버 기업들이 실제 제품에 HBF를 적용하기 위한 전제 조건으로, 표준 규격이 확정되면 HBF 기반 제품의 설계와 공급망 구축이 본격화될 수 있다. SK하이닉스는 커스텀 HBM 확대 전망도 내놓았다. AI 가속기마다 요구 성능과 전력 효율, 데이터 처리 방식이 달라지면서 고객 맞춤형 제품 비중이 늘어날 것이라는 설명이다.
다만 3D 적층 D램은 프로세서와 메모리를 직접 결합하는 구조인 만큼 발열 관리와 첨단 패키징 기술 확보가 중요한 과제로 남아 있다. 안 사장은 "3D 적층 D램과 어드밴스드 패키지가 결합되면 새로운 AI 메모리 솔루션으로 성장할 수 있다"고 말했지만, 구체적인 상용화 일정은 제시되지 않았다. HBF 표준안이 내년 1월 출시되더라도 실제 엔비디아 등 주요 반도체 기업의 제품 라인업에 채택되기까지는 추가 검증과 협력이 필요할 전망이다. SK하이닉스는 "메모리 개발, 표준화, 생산 능력 확보는 AI 수요 형성 전부터 미리 준비돼야 한다"고 강조했다.
