AMD가 Advancing AI 행사를 열고 AI 솔루션 미래 비전을 제시했다. 비전에는 마이크로소프트(Microsoft), 메타(Meta), 오라클(Oracle), 델 테크놀로지스(Dell Technologies), HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro), 아리스타(Arista), 브로드컴(Broadcom), 시스코(Cisco) 등이 동참했다.
또한, AMD 인스팅트 MI300 시리즈 데이터 센터 AI 가속기, 대규모 언어 모델(LLM)을 지원하는 ROCm 6 개방형 소프트웨어 스택, 라이젠 AI 대응 라이젠 8040 시리즈 프로세서 등 신제품도 망라했다.
AMD 리사 수 CEO는 "AI는 컴퓨팅의 미래다. AMD는 AI 시대를 정의할 엔드투엔드 인프라를 강화할 수 있는 독보적인 위치에 있다"고 강조했다. 이어 “생성형 AI 가속기 인스팅트 MI300 GPU에 대한 수요가 높다고 보고 있다. 데이터 센터 AI 솔루션 분야에서 상당한 모멘텀을 구축하고 있다”고 긍정 메세지를 시장에 던졌다.
AMD는 특히 성장 모멘텀에 대해 비중 높여 다뤘다.
* 마이크로소프트는 AI 워크로드에 최적화된 새로운 애저 ND MI300x v5 가상머신(Azure ND MI300x v5 Virtual Machine) 시리즈 구동을 위해 AMD 인스팅트 MI300X 가속기를 활용하는 방안을 공개했다.
* 메타는 AI 추론 워크로드를 강화하기 위해 ROCm 6과 함께 데이터 센터에 AMD 인스팅트 MI300X 가속기를 추가하고 있으며, AMD가 라마 2(Llama 2) 모델 제품군에 대한 ROCm 6 최적화 수행을 언급했다.
* 오라클은 AMD 인스팅트 MI300X 가속기를 갖춘 OCI 베어 메탈 컴퓨팅 솔루션 공급 및 향후 자사 생성형 AI 서비스에 대한 AMD 인스팅트 MI300X 가속기 포함 계획을 발표했다. 다수의 대형 데이터 센터 인프라 제공업체가 자사 제품 포트폴리오 전반에 걸쳐 AMD 인스팅트 MI300 가속기를 탑재할 계획이라고 발표했다.
* HPE는 엔터프라이즈 및 HPC 제품에 AMD 인스팅트 MI300 가속기 도입 계획을 발표했다.
* 레노버는 AMD 인스팅트 MI300X 가속기를 레노버 씽크시스템(Lenovo ThinkSystem) 플랫폼에 도입하여 소매, 제조, 금융 서비스 및 의료를 포함한 산업 전반에 AI 솔루션을 지원할 계획이다.
* 슈퍼마이크로는 자사의 AI 솔루션 포트폴리오 전반에 걸쳐 AMD 인스팅트 MI300 GPU를 제공할 예정이다. 이 밖에도, 에이수스(Asus), 기가바이트(Gigabyte), 인그라시스(Ingrasys), 인벤텍(Inventec), QCT, 위스트론(Wistron), 위윈(Wiwynn) 등도 AMD 인스팅트 MI300 가속기 기반의 솔루션을 공급할 계획이다.
얼라인드(Aligned), 아르콘 에너지(Arkon Energy), 시라스케일(Cirrascale), 크루소(Crusoe), 덴버 데이터웍스(Denvr Dataworks), 텐서웨이브스(Tensorwaves) 등의 전문 AI 클라우드 사업자 또한 개발자 및 AI 스타트업을 위해 AMD 인스팅트 MI300X GPU에 대한 액세스를 확장하는 제품을 제공할 예정이다.
AMD는 소프트웨어 생태계 확장에 대해서도 강조했다.
생성형 AI, 특히 대규모 언어 모델 환경에서 구동되는 인스팅트 GPU용 오픈 소스 소프트웨어 스택인 ROCm 6의 최신 버전을 공개하며, 라마 2 기준 텍스트 생성 전체 대기 시간을 비교하면, ROCm6를 MI300X에서 구동 시 MI250에서 실행되는 ROCm 5 대비 최대 8배 향상된 성능에 방점을 찍었다.
이에 힘입어 데이터브릭스(Databricks), 에센셜 AI(Essential AI), 라미니(Lamini)가 AMD 인스팅트 MI300X 가속기와 개방형 ROCm 6 소프트웨어 스택을 활용한 서비스를 예고했고, 오픈AI(OpenAI)는 트리톤 3.0(Triton 3.0)에 AMD 인스팅트 가속기에 대한 지원을 추가하여 개발자가 AMD 하드웨어에서 더 높은 수준의 추상화 작업을 수행할 수 있도록 지원할 계획을 공개했다.
마지막으로 라이젠 8040 시리즈 프로세서 정보를 공개했고, 개발자가 사전 훈련된 모델을 사용하여 윈도우 애플리케이션에 손쉽게 AI 기능을 추가하고 배포할 수 있도록 하는 소프트웨어 스택 라이젠 AI 1.0을 출시했다. 아울러, 오는 24년 출시 예정인 스트릭스 포인트(Strix Point) CPU의 활용 방안을 두고 마이크로소프트와 협력을 논의했다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
