AI 모델 하나가 서비스 중에 처리해야 하는 데이터 규모는 학습 단계보다 훨씬 더 폭발적으로 커집니다. 제가 이 사실을 처음 접했을 때, HBM만으로 버틴다는 게 애초에 구조적으로 불가능한 이야기였구나 싶었습니다. 그래서 지금 업계가 HBF(High Bandwidth Flash)라는 개념을 꺼내 들고 있는 겁니다.
HBF란? AI 시대 차세대 메모리를 이끄는 주인공인가?
HBM(High Bandwidth Memory)은 D램을 수직으로 쌓은 뒤, 층과 층 사이를 TSV(Through Silicon Via) 공법으로 연결한 메모리입니다.
HBF(High Bandwidth Flash)는 이 구조를 낸드플래시 기반으로 재현한 개념입니다. D램 대신 낸드플래시를 수직으로 적층 하고, 마찬가지로 층 사이에 데이터 고속도로를 뚫어 대용량 데이터를 빠르게 전송할 수 있도록 설계합니다. 이름 그대로 '고대역폭 플래시 메모리'입니다.
제가 처음 이 개념을 접했을 때는 솔직히 "그냥 HBM의 짝퉁 아닌가?" 싶었습니다. 그런데 공부하면 할수록 출발점이 다릅니다. HBM은 D램의 특성상 전원이 꺼지면 데이터가 사라지는 휘발성 메모리입니다. 반면 HBF의 기반인 낸드플래시는 전원이 없어도 데이터를 유지하는 비휘발성(Non-Volatile) 메모리로, 우리가 흔히 쓰는 SSD나 스마트폰 저장장치에 쓰이는 바로 그 기술입니다.
요약: HBF는 낸드플래시를 적층해 대용량 데이터를 빠르게 공급하는 차세대 메모리로, HBM과 역할이 달라 경쟁이 아닌 보완 관계에 있습니다.
HBF의 역할은 데이터를 서포트하는 보급 기지
제가 직접 생성형 AI 서비스를 쓰다 보면 대화가 길어질수록 응답 속도가 미묘하게 느려지는 걸 체감한 적이 있습니다. 그게 단순한 네트워크 문제가 아니라, 이 메모리 병목과 관련이 있다는 걸 알고 나서는 꽤 신선한 충격이었습니다.
HBM은 GPU 바로 옆에서 연산에 필요한 데이터를 즉시 투입하는 특공대 역할을 합니다. 반면 HBF는 그보다 한 단계 뒤에서 텍스트·이미지·비디오·오디오 등 수십~수백 테라바이트 규모의 AI 서비스 데이터를 쌓아두고 필요한 순간에 연산 장치로 넘겨주는 병참기지 역할을 맡습니다. 기존의 대용량 저장장치인 SSD나 HDD가 이 역할을 해줄 수 없는 이유는, 전송 속도 자체가 AI가 요구하는 수준에 한참 미치지 못하기 때문입니다.
실제로 출처: 삼성전자 반도체와 SK하이닉스 같은 메모리 기업들이 HBF 개발을 공식화하고 있으며, 이는 AI 칩 내부에서 GPU—HBM—HBF가 하나의 유기적인 데이터 흐름 구조를 이루게 될 것임을 시사합니다.
요약: HBF는 AI 추론 서비스에서 폭증하는 대용량 컨텍스트 데이터를 저장·공급하는 병참기지 역할로, GPU와 HBM만으로는 감당할 수 없는 영역을 채웁니다.
HBF의 시장 평가와 기술난제와 미래 가능성
HBF 개발이 HBM보다 훨씬 어려운 이유는 구조적 복잡성 때문입니다. 현재 낸드플래시는 3D NAND 구조로 셀을 수백 층씩 쌓는데, 이 복잡한 구조물을 다시 적층하고 TSV로 연결해야 하는 높은 공정 난이도가 필요합니다.
제 생각에 이런 공정 난이도 문제는 "불가능하다"보다 "시간이 얼마나 걸리느냐"의 문제에 가깝습니다. 다만 HBF는 HBM과 달리 낸드플래시의 수명 문제가 추가됩니다.
또한 발열 제어, 컨트롤러 설계, 업계 표준 미확정 등 넘어야 할 과제도 남아 있습니다. 현재 SK하이닉스, 삼성전자, 샌디스크가 각자의 방식으로 개발을 진행 중이며, HBM 시장에서 입지를 다진 기업들이 HBF에서도 유리한 위치를 선점할 가능성이 있습니다.
솔직히 저는 지금 당장 HBF 관련주에 뛰어들 생각은 없습니다. 워런 버핏의 말처럼 자신이 이해하지 못하는 것에는 투자하지 않는 원칙이 있고, 제가 아직 이 기술을 완전히 소화한 상태가 아니기 때문입니다.
요약: HBF는 3D NAND 재적층의 공정 난이도와 낸드플래시 고유의 수명 문제라는 기술 난제를 안고 있으며, 표준 규격도 미확정 상태로 투자보다 기술 동향 파악이 우선입니다.
자주 묻는 질문
Q. HBF가 나오면 HBM은 없어지나요?
A. 없어지지 않습니다. HBM은 GPU 연산에 최적화된 초고속 메모리로, 속도 면에서 D램 기반의 HBM을 낸드플래시 기반 HBF가 따라잡는 것은 구조적으로 불가능합니다. 두 기술은 속도(HBM)와 용량(HBF)이라는 서로 다른 역할을 맡아 AI 칩 안에서 함께 쓰이는 방향으로 발전할 가능성이 높습니다.
Q. HBF 양산은 언제쯤 될까요?
A. 현재 SK하이닉스, 삼성전자, 샌디스크 등이 개발을 진행 중이지만, JEDEC 기준의 업계 표준 규격조차 아직 확정되지 않은 초기 단계입니다. HBM처럼 산업 전반에 적용되기까지는 수년 이상의 시간이 필요할 것으로 보입니다.
정리하며
HBF는 HBM의 경쟁자가 아닙니다. AI 칩 안에서 GPU가 연산을 하고, HBM이 그 연산에 데이터를 빠르게 투입하고, HBF가 그 뒤에서 대규모 서비스 데이터 전체를 저장하고 공급하는 구조로 가게 될 것입니다. 세 요소가 하나의 유기적인 데이터 흐름을 이루는 방향입니다.
제가 지금 이 기술을 바라보는 입장은 "지켜보되, 서두르지 않는다"입니다. 3D NAND 재적층 공정, 소자 수명, 발열, 표준 규격 확정까지 넘어야 할 과제가 분명히 남아 있고, 이해가 충분히 쌓이기 전에 섣불리 판단하는 것보다 꾸준히 자료를 찾아보며 기술 흐름을 따라가는 편이 맞다고 생각합니다. HBF가 HBM처럼 반도체 산업 전체를 흔드는 기술이 될 수 있을지, 저도 그 답을 같이 찾아가는 중입니다.
참고: HBM 다음은 이거다? HBF 메모리 완전 정리ㅣ공학칼럼/ https://www.youtube.com/watch?v=hLMe_3d-RLw