SK하이닉스와 샌디스크가 HBM과 SSD 사이의 중간 저장 장치인 하이-밴드위스 스 플래시(High‑Bandwidth Flash)의 표준화를 시작했습니다

SK Hynix와 SanDisk는 Open Compute Project의 일환으로 새로운 메모리 레벨인 High Bandwidth Flash (HBF)를 출시한다고 발표했습니다.

HBF란 무엇인가
* 포지셔닝:

HBF는 초고속 메모리 HBM과 대용량 SSD 사이의 ‘중간’ 수준입니다.

이는 높은 처리량을 가진 HBM과 큰 용량을 갖춘 SSD 사이의 격차를 메우며, AI 작업에 필요한 확장성 및 에너지 효율성을 동시에 제공합니다.

* 아키텍처에서의 기능:

HBM이 기본적인 고속 성능을 제공하는 것과 달리, HBF는 전체 시스템을 보완하는 부수적 메모리 계층으로 작용합니다.

SanDisk가 보는 HBF
특징 | SanDisk 평가 | 기술
NAND‑메모리, BiCS NAND 및 CBA (CMOS Direct Bonded to Array) 사용 | 용량: HBM보다 8–16배 크며 동일한 처리량을 가짐 | 비용: 일반 시스템 구성에서 HBM과 대략적으로 동등

첫 번째 세대 스택
* 읽기 처리량: 최대 1.6 TB/s (크리스탈당 256 Gb/s).

* 전체 스택 용량 (16개 크리스탈): 최대 512 GB.

* 물리적 매개변수: HBM4의 크기, 전력 소비 및 높이에 최대한 부합하도록 설계되었으며, AI 가속기에 사용되는 최신 HBM 스택과 유사한 통합 모델을 갖추고 있습니다.

성능
내부 테스트 결과, HBF는 8‑비트 Llama 3.1 405B 기반 부하에서 “제한 없는 용량의 HBM” 대비 단지 2.2 % 차이가 있음을 보여줍니다.

*주의:* 비교 대상은 가상의 무제한 용량 HBM이므로, 실제 대용량으로 인한 이점을 직접적으로 측정하지는 않습니다.

에너지 독립성
HBF는 전원이 공급되지 않아도 데이터를 보존합니다—DRAM 메모리와 달리 지속적인 전원 공급 없이 데이터 갱신이 필요 없습니다.

미래 계획 (Gen 2 및 Gen 3)
세대 | 목표 읽기 처리량 | 스택 용량 | 에너지 소비 (Gen 1 대비)
Gen 2 | > 2 TB/s | 최대 1 TB | 0.8× Gen 1
Gen 3 | > 3.2 TB/s | 최대 1.5 TB | 0.64× Gen 1

다음 단계
* 표준화: SK Hynix와 SanDisk는 이미 HBF를 Open Compute Project의 다음 단계로 지정했습니다.

* 도입 시점: 정확한 일정은 아직 발표되지 않았습니다.

따라서 HBF는 HBM의 속도와 SSD의 용량을 결합하면서 에너지 효율성을 유지하고 기존 AI 가속기와 호환 가능한 새로운 ‘중간’ 메모리 계층이 될 것으로 기대됩니다.