커넥티비티 클라우드 기업 클라우드플레어(Cloudflare)와 마이크로소프트(Microsoft)가 AI 모델 구현 분야에서 협력한다. AI 추론 작업이 점점 더 분산되고 있는 가운데, 양사는 현장에서 디바이스, 네트워크 엣지, 클라우드 환경을 아우르는 컴퓨팅 연속체 전반에 걸쳐 AI 모델을 원활하게 배포하고 중앙 집중식 및 분산 컴퓨팅 모델의 이점을 극대화 가능한 방향 모색에 힘을 모으기로 했다.
또한 오닉스 런타임(ONNX Runtime)을 활용해 초대형 클라우드에서 초분산 네트워크 엣지, 장치 자체에 이르는 세 단계 아키텍처 중 처리가 가장 적합한 곳에서 AI 모델을 실행하며 특정 애플리케이션이나 서비스의 대역폭, 지연 시간, 커넥티비티, 처리, 배터리/에너지, 데이터 주권 및 현지화 요구 사항을 가장 잘 해결할 수 있도록 보장한다는 계획이다.
AI 모델 학습을 위해서는 컴퓨팅 및 스토리지 리소스가 요구된다.
중앙 집중식 클라우드 플랫폼이 유리하다. 트레이닝은 계속 중앙 집중화되는 반면, 추론 작업은 더 분산된 위치, 특히 디바이스 자체와 엣지 네트워크에서 수행한다. 예를 들어, 일부 추론 작업(예: 보행자를 발견한 자율 주행 차량이 제동)은 지연 시간을 최소화하기 위해 물리적 디바이스에서 실행되는 반면에 컴퓨팅, 스토리지, 배터리 전원과 같은 디바이스의 한계를 극복하기 위해 점점 더 많은 작업을 엣지 네트워크에서 실행해야 한다.
엔드 유저 및 디바이스와 지리적으로 가까운 엣지 네트워크는 컴퓨팅 리소스, 속도, 데이터 프라이버시 간의 최적의 균형을 제공해 준다. 일부 애플리케이션은 엔드 유저에게 최상의 경험을 제공하기 위해 디바이스, 엣지 네트워크, 클라우드 환경이 함께 작동하여 컴퓨팅 연속체의 세 가지 단계를 통과해야 할 수도 있다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
Tag
#클라우드플레어
