엔비디아 H100 텐서 코어 GPU(NVIDIA H100 Tensor Core GPU)가 업계 그룹 AI 훈련에 대한 최신 테스트에서 엔터프라이즈 AI 워크로드 전반에 걸쳐 세계 기록을 세웠다. MLPerf 추론 벤치마크에서 H100을 선보인 지 2개월 만이다.
엔비디아는 "고급 AI 모델을 만들고 배포할 때 최고의 성능을 요구하는 사용자에게 H100가 최고의 선택"이라고 언급했다.
MLPerf는 AI 성능 측정을 위한 표준 방식이다. 아마존(Amazon), Arm, 바이두(Baidu), 구글(Google), 하버드 대학교(Harvard University), 인텔(Intel), 메타(Meta), 마이크로소프트(Microsoft), 스탠퍼드 대학교(Stanford University)및 토론토 대학교(University of Toronto)가 동참하고 있다.
호퍼(Hopper)라고 불리는 H100 GPU는 MLPerf 훈련에 처음 제출되었을 때 이전 세대 GPU보다 최대 6.7배 더 높은 성능을 제공했다. 부분적으로 트랜스포머 엔진(Transformer Engine)이 BERT 모델 훈련에 효과를 발휘했다. 차모로 MLPerf AI 모델 중 가장 크고 많은 성능이 요구되는 모델이다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
Tag
#엔비디아
