클라우드플레어, AI 추론 플랫폼 ‘워커스 AI’ 성능 강화

2024-09-30 김현동

클라우드플레어가 서버리스 AI 추론 플랫폼 ‘워커스 AI(Workers AI)’와 AI 애플리케이션 구축을 위한 여러 도구에 신규 기능을 도입하여, 더욱 빠르고 성능이 향상된 AI 애플리케이션을 지원한다고 발표했다.

‘워커스 AI’는 전 세계에서 AI 추론을 실행할 수 있는 플랫폼으로, 이번 업데이트를 통해 추론 속도가 개선되고, 대형 모델 지원과 성능 분석 기능이 강화되었다. 특히, 클라우드플레어의 글로벌 분산 네트워크는 네트워크 지연을 최소화하여 AI 상호작용의 장애물을 줄였다. 현재 180여 개 도시에서 GPU를 배치해 짧은 대기 시간으로 AI 추론을 실행할 수 있도록 설계되었으며, 글로벌 범위를 확대해 사용자 가까이에서 AI 데이터를 처리할 수 있게 되었다.

클라우드플레어 CEO 매튜 프린스는 "AI가 일상화되면서 성능과 지역별 가용성이 중요해졌다"며 "클라우드플레어의 글로벌 AI 플랫폼은 AI를 더 빠르고 일상적인 기술로 만들어줄 것"이라고 강조했다.

신규 기능으로는 더 강력한 GPU를 활용한 성능 업그레이드와 대형 모델 지원, AI 사용량 모니터링 및 최적화 개선을 위한 지속적인 로그 기능, 빠르고 경제적인 쿼리 기능이 포함된다.