반도체 기업 그래프코어(Graphcore)가 3D 웨이퍼-온-웨이퍼 (Wafer-on-Wafer; WoW) 반도체 Bow(보우) IPU를 출시했다. Bow IPU는 차세대 Bow POD AI 컴퓨터 시스템의 핵심으로 기존 프로세서 대비 40% 향상된 성능과 16% 뛰어난 전력 효율을 갖췄다.
플래그십 제품 Bow POD256과 초대형 Bow POD1024는 각각 89페타플롭스(PetaFLOPS)와 350 페타플롭스의 AI 연산을 지원한다. Bow 시스템의 첫 도입 사례는 미국 에너지부 산하 퍼시픽 노스웨스트 국립 연구소(Pacific Northwest National Laboratory; PNNL)로, 기존의 기술로 다루기 어려운 과학 문제를 해결하기 위해 학습과 추론에 걸리는 시간을 몇 일에서 단 몇 시간으로 단축시켰다.
클라우드 서비스 제공업체(CSP) 시라스케일(Cirrascale) 역시 자사 그래프클라우드(Graphcloud) IPU 베어메탈(bare metal) 서비스의 일부로 Bow POD 시스템을 구축했다. 이 외에도 유럽 CSP 지코어랩스(G-Core Labs)도 2022년 2분기 내 Bow IPU 클라우드 인스턴스를 출시할 계획이라고 밝혔다.
Bow POD는 자연어 처리를 위한 GPT와 BERT부터 컴퓨터 비전을 위한 EfficentNet 및 ResNet, 그리고 GNN에 이르는 광범위한 AI 애플리케이션에서 가시적인 성과를 끌어낼 것으로 기대된다. Bow POD 시스템은 그래프코어의 기존 콜로서스(Colossus) Mk2 IPU-POD 시스템과 비교해 같은 피크 엔벨로프 전력 (PEP)에서 40% 향상된 성능을 제공한다.
특히, 컴퓨터 비전 모델 EfficientNet 훈련에서 엔비디아 DGX A100 시스템 보다 5배 이상 뛰어난 성능을 보인 반면, 비용은 절반으로 총소유비용(TCO) 절감효과가 무려 10배에 이르는 것으로 나타났다. 뿐만 아니라, Bow POD 시스템은 기존 제품들보다 확실히 개선된 전력 효율을 자랑한다. 다양한 애플리케이션에 걸쳐 테스트를 진행한 결과, Bow POD는 와트(Watt) 당 최대 16% 향상된 전력 효율을 보였다.
Bow IPU 프로세서는 TSMC의 3D 패키징 기술인 WoW가 적용된 최초의 AI 반도체로, 양사는 이번 Bow IPU 개발에 협력했다. WoW는 실리콘 다이 간 더 높은 대역폭을 제공할 수 있는 잠재력을 가진 기술로, 그래프코어 콜로서스 아키텍처의 전력 효율을 최적화하고 웨이퍼 단에서 전력 공급을 개선하는데 사용되고 있기도 하다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
김신강 에디터 Shinkang.kim@weeklypost.kr
보도자료 및 취재문의 PRESS@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
Tag
#그래프코어
