SK하이닉스, AI 추론 병목 해법 제시...HBM 넘어 HBF·3D D램으로

이동훈 기자

rockrage@naver.com | 2026-10-14 16:16:26

[HBN뉴스 = 이동훈 기자] SK하이닉스가 AI 추론 시장 확대에 대응해 HBM을 넘어 3D Stacked DRAM과 HBF 등 새로운 메모리 계층을 추가하는 차세대 기술 로드맵을 제시했다. 개별 제품 성능 향상뿐 아니라 전체 메모리 계층을 최적화해 AI 인프라의 성능과 에너지 효율을 높인다는 전략이다.

안현 SK하이닉스 개발총괄 사장(CDO)은 14일 열린 ‘SEDEX 2026’ 기조연설에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 AI 추론 시장의 변화와 차세대 메모리 기술 방향을 설명했다. 

서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’의 SK하이닉스 부스 전경. [사진=SK하이닉스]
안 사장은 AI 추론 시장이 작업 복잡도와 컨텍스트 길이, 추론 요청량 증가에 따라 빠르게 확대되고 있으며 AI 인프라의 성능 규모가 2030년에는 2026년 대비 약 20배까지 커질 것으로 전망했다.

AI가 이전에 처리한 정보를 저장하고 재활용하는 KV 캐시가 커지면서 HBM과 DRAM, SSD 등 메모리 계층 간 데이터 이동도 증가하고 있다. 안 사장은 이 과정에서 성능과 전력 소모 측면의 새로운 병목이 발생하고 있다고 진단했다.

SK하이닉스는 이에 따라 기존 HBM 경쟁력을 강화하면서 SRAM과 HBM, DRAM, SSD 사이에 새로운 메모리 계층을 추가하는 방향으로 기술 개발을 확대하고 있다.

HBM은 고객별 AI 시스템에 맞춘 ‘커스텀 HBM’으로 진화시킨다. 커스텀 HBM은 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 탑재해 시스템에 맞게 기능과 성능을 조정하는 방식이다.

SRAM과 HBM 사이의 성능 격차를 줄이기 위한 기술로는 ‘3D Stacked DRAM’을 제시했다. GPU와 NPU 등 로직 반도체 위에 DRAM을 적층해 연산기와 데이터 간 거리를 줄이고 대규모 AI 추론 과정에서 필요한 데이터를 빠르게 공급하는 구조다.

HBM과 DRAM 사이에는 HBF를 새로운 계층으로 배치한다는 구상이다.

HBF는 HBM에서 확보한 TSV 적층과 고속 입출력 기술을 낸드플래시에 적용하는 차세대 메모리다. SK하이닉스는 동세대 HBM 대비 절반 수준의 대역폭과 약 10배의 용량을 구현하는 것을 개발 목표로 제시했다.

AI 추론에서는 대규모 데이터를 반복적으로 읽는 작업이 많은 반면 쓰기 작업은 상대적으로 적어 낸드 기반 HBF가 해당 용도에 적합하다는 설명이다.

SK하이닉스는 HBF 표준화와 글로벌 파트너 협력도 추진한다. CXL과 Storage-Next 등 차세대 메모리·스토리지 기술을 통해 AI 워크로드에 맞춘 메모리 구조를 구축할 계획이다.

[ⓒ HBN뉴스. 무단전재-재배포 금지]

WEEKLY HOT