칩 위에 메모리 통째로 얹었다...삼성전자 'zHBM' 승부수

삼성전자가 본격적인 인공지능 에이전트 시대를 맞아 AI 가속기 위에 메모리 반도체를 3차원으로 직접 얹는 차세대 'zHBM' 기술 비전을 전격 공개했습니다.

현지시간 16일 미국 캘리포니아에서 열린 AI 인프라 서밋에서 삼성전자는 현재 초당 100토큰 수준인 대화형 AI의 응답 속도를 10배인 1천 토큰으로 끌어올리겠다는 목표를 제시했습니다.

이를 위해 가속기와 메모리를 나란히 배치하던 기존 방식을 벗어나 칩을 수직으로 쌓아 올려 데이터 이동 거리를 획기적으로 줄여 향후 HBM5 대비 최대 8배의 성능과 3배의 전력 효율을 내겠다고 설명했습니다.

칩 적층 과정에서 발생하는 치명적인 발열 문제는 가속기 제조 고객사들과 초기 설계 단계부터 맞춤형으로 협력하는 공동 설계 체계를 통해 해결해 나간다는 방침입니다.

아울러 삼성전자는 온디바이스 AI 시장을 겨냥해 낸드플래시 기반의 새로운 3차원 저장장치인 'z낸드-O'의 청사진도 함께 선보였습니다.

오는 2028년 샘플 공급을 시작으로, 2030년에는 대형 서버가 아닌 워크스테이션 환경에서도 1조 개 매개변수 규모의 거대 AI를 D램 대비 6분의 1 비용으로 자체 구동하는 시대를 열겠다고 강조했습니다.

YTN 권영희 (kwonyh@ytn.co.kr)