인텔은 국제 올림픽 위원회(IOC)와 협력해 파리 올림픽 출전 선수를 지원하는 AI 솔루션을 발표했다. 인텔 가우디 AI 가속기와 제온 프로세서를 활용해 개발했으며, 선수에게 실시간 정보를 제공해 경기에 집중할 수 있도록 돕는다.
저스틴 호타드 인텔 데이터센터 및 AI 그룹 총괄은 "인텔은 IOC와의 파트너십을 통해 AI 접근성을 높이고, 혁신과 창의성을 장려하며, 맞춤형 AI 솔루션을 구축할 수 있는 개방된 경쟁의 장을 조성하고 있다"고 밝혔다.
올림픽 기간 동안 약 11,000명의 선수가 이용할 수 있는 애슬리트365 챗봇은 인텔의 AI 기술로 구동되며, 실시간 문의 응답과 정보 제공을 담당한다. 이 챗봇은 다양한 언어와 문화를 가진 선수들이 경기장을 탐색하고 규칙과 지침을 준수할 수 있게 돕는다.
이는 생성형 AI 솔루션을 배포하는 데 있어 비용, 규모, 정확성, 개인정보 보호 및 보안과 같은 과제를 해결하는 것이 필수적이다. RAG는 기업이 내부 데이터를 안전하게 활용해 AI 결과물의 신뢰성을 높일 수 있어 중요한 생성형 AI 워크로드로 평가받고 있다.
인텔의 개방형 AI 접근 방식은 AI 플랫폼, 표준, 소프트웨어 생태계를 활용해 맞춤형 RAG 기반 AI 솔루션을 구축할 수 있도록 지원한다. 인텔은 협력사와 함께 RAG를 간편하게 배포할 수 있는 오픈소스 솔루션을 개발하고 있다. 이 솔루션은 엔터프라이즈 AI용 오픈플랫폼(OPEA) 기반에 구축된 업계 중심의 RAG 솔루션이다.
생성형 AI 턴키 솔루션은 제온 및 가우디 AI 시스템을 기반으로 하며, OPEA 기반 마이크로서비스 구성 요소를 통합해 확장 가능하고 유연한 배포를 제공한다. 쿠버네티스(Kubernetes) 및 레드햇 오픈시프트(RedHat OpenShift)와 같은 오케스트레이션 프레임워크와도 통합된다.
인텔은 대부분의 대형언어모델(LLM) 개발을 지원하는 프레임워크 파이토치(PyTorch)를 기반으로 하여 개방형 소프트웨어 스택을 개발했다. 이 스택은 파이토치, 허깅 페이스 서빙 라이브러리, 랭체인, 레디스 벡터 데이터베이스로 구축되었다.
OPEA는 다양한 컴파일러와 툴체인을 위한 오픈 모델 개발과 지원에 중점을 둔 이기종 RAG 파이프라인을 제공한다. 이를 통해 버티컬 사용 사례에 대한 AI 통합 및 제공을 가속화한다. 인텔은 생성형 AI 턴키 솔루션을 통해 기업 및 데이터센터 내에서 RAG 및 LLM 애플리케이션을 배포하고 확장하는 데 필요한 완전한 솔루션을 제공한다.
인텔은 업계 협력사 및 고객과의 협업을 통해 생성형 AI 및 RAG 솔루션 기반의 AI 서비스에 새로운 기회를 창출하고 있다. 인텔은 AI의 안전하고 책임감 있는 발전을 위해 구글, IBM 등과 함께 보안 AI 연합(CoSAI)을 구축했다.
By 기사제보 및 정정요청 = PRESS@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
