[2020년 12월 06일] - 의료기기 알고리즘의 연구·개발에는 최첨단 알고리즘 구축을 위한 고급 컴퓨팅 성능을 갖춘 전문 PC가 필요했다. 하지만 병렬 컴퓨팅 플랫폼과 프로그래밍 모델 쿠다(CUDA)의 등장으로 많은 의료 디바이스, 의료 기기 및 모델에 엔비디아 GPU가 도입됐다. 고성능 알고리즘 워크로드를 위한 소프트웨어 개발에 특화된 플랫폼이다.
현재 의료 영상 워크플로우에도 AI가 채택되고 있는 가운데, 그 범위는 영상 혹은 이미지 캡처가 가능한 의료기기 등을 포함해 의료 영상이 활용되는 영역으로 확대되는 추세다. 의료기기에 AI를 통합하려는 요구가 증가함에 따라, 새로운 기능의 개발을 가속화하기 위한 컴퓨팅 리소스에 대한 필요성이 높아지는 것이 주된 채택이유다.
엔비디아 클라라 AGX 개발자 키트는 이러한 요구사항에 대응한다. 젯슨 AGX 자비에(Jetson AGX Xavier), 멜라녹스 Connect X-6 NIC, RTX 6000 GPU, HDMI 2.0 입력을 포함한다. SDK는 컨테이너화 런타임 및 AI 기술 예시와 함께 필수 운영체제(OS), 드라이버, 라이브러리도 갖췄다. 보다 쉽게 의료기기에서 진보된 AI 성능을 구현할 수 있게 하는 것이 목표로 내세웠다.
AI 기술 개발 위한 확장 가능한 컴퓨팅
[2020년 12월 06일] - 다양한 라이브러리와 툴 생태계에 기반한다. 모듈은 불과 10W의 전력으로 최대 32TOPS(초당 테라 연산)의 성능을 제공하며 AI 기반 오토노머스 머신을 구현한다. 엔비디아 AI 툴과 및 워크플로우 세트를 활용해 개발자가 신경망을 훈련하고 구축할 수 있도록 했다. AI 애플리케이션 구축을 위한 종합 솔루션인 젯팩 SDK(Jetpack SDK)는 표준 리눅스(Linux) OS, 보드 구성품을 지원하는 BSP, 쿠다 지원을 포함한 클라라 AGX 개발자 키트를 제공한다.
또한, 스트리밍 데이터 처리 파이프라인을 구축하기 위한 리버맥스(Rivermax) 및 딥스트림(Deepstream)과 EGX를 통한 배치를 지원하기 위한 컨테이너화 런타임, 특정 사용사례를 모델링하는 레퍼런스 애플리케이션을 패키지로 갖췄다. 젯슨 플랫폼은 제품화에 적합하지만, 차세대 알고리즘 개발을 위해서는 엔비디아 GPU와의 조화가 효율적이다. RTX GPU 기반 환경은 코드 최적화에 소요되는 시간을 줄이며, 성능 저하 없이 알고리즘 실험을 가능하게 한다.
클라라 AGX 개발자 키트에는 엔비디아 RTX 6000 GPU가 포함돼 있으며, 최고 200 이상의 AI TOPS INT8 컴퓨팅 성능을 제공한다. 가장 복잡하고 까다로운 AI 애플리케이션의 다중 추론 파이프라인을 동시에 실행할 수 있어 최신 AI 모델 연구 개발에 적합하다.
연구개발 단계가 마무리되고 최종 AI 모델이 준비되면, 개발자는 해당 모델을 최적화하고 배치할 수 있다. 낮은 전력이 필요하다면, 소형 폼팩터의 전력과 규모 예산에 부합하는 젯슨 제품군을 활용할 수 있다. 엔비디아는 하나의 애플리케이션 소프트웨어 세트에서 완전 확장 가능한 제품군까지 라인업을 확대했다.
고대역폭 센서를 위한 확장 가능한 연결성
[2020년 12월 06일] - 의료기기는 다른 임베디드 시스템과 마찬가지로 업스트림 센서와 GPU 간의 높은 대역폭 연결이 필요하며, 이는 GPU 다이렉트(GPU Direct) 또는 RDMA 스트리밍을 통해 이루어진다. 클라라 AGX 개발 키트는 두 개의 서로 다른 방식을 통해 특화된 방식으로 연결시킨다.
먼저, 엔비디아 멜라녹스 ConnectX-6 NIC를 통합해 100G와 10G 이더넷을 모두 지원한다. 멜라녹스 ConnectX-6 NIC는 풀 라인 속도로 RTX 6000 GDDR DRAM에 GPU 다이렉트를 지원한다. 클라라 AGX 개발 키트는 네트워킹 스택을 오프로드해 CPU 사용률에 미치는 영향은 최소화하고, 스트리밍 센서 데이터 패킷은 최고의 처리량과 성능을 발휘하게 된다.
두 번째로, PCIe Gen4x8 슬롯 2개가 사용 가능하며 이는 커스텀 PCIe 카드 및 추가적인 네트워크 인터페이스 카드를 지원한다. 첫 번째 PCIe 포트는 엔비디아 멜라녹스 ConnectX-6 NIC의 통합 스위치와 연결된다. 해당 포트는 RDMA 데이터를 바로 RTX6000 GDDR DRAM으로 전송할 수 있도록 한다.
By 김현동 에디터 hyundong.kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
Tag
#엔비디아
