국내 연구진이 엔비디아에 맞설 수 있는 고성능 AI 가속기 기술을 개발했습니다.
카이스트의 정명수 교수가 이끄는 연구팀은 CXL(컴퓨트 익스프레스 링크) 기술을 적용해 GPU 장치의 메모리 용량을 확장하고 비용을 절감하는 CXL-GPU 기술을 개발했습니다.
최신 그래픽처리장치(GPU)의 내부 메모리 용량은 수십 기가바이트(GB)에 불과해 단일 GPU만으로는 AI 모델을 추론·학습하는 것이 불가능합니다.
일반적으로 GPU를 병렬로 여러 대 연결하는 방식을 사용하기 때문에 비용이 많이 듭니다.
이에 대용량 메모리를 GPU 장치에 직접 연결하는 CXL-GPU 기술이 다양한 산업계에서 활발히 검토되고 있습니다.
CXL-GPU는 GPU에 메모리만 선택적으로 추가할 수 있어 시스템 구축 비용을 획기적으로 절감할 수 있습니다.
이 기술은 메모리 읽기·쓰기 성능 저하 문제를 해결해 기존 GPU 메모리 확장 기술보다 2.36배 빠르게 AI 서비스를 실행할 수 있습니다.
이번 연구는 반도체 스타트업 파네시아와 협업하여 진행되었으며, 7월 USENIX 연합 학회에서 발표될 예정입니다.
정 교수는 이 기술이 빅테크 기업의 메모리 확장 비용을 크게 줄일 수 있을 것이라고 말했습니다.
AI 앵커ㅣY-GO
자막편집 | 이 선
화면출처ㅣ카이스트
#지금이뉴스
[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]