마이크로칩의 memBrain 기술 평가 키트는 IHWK가 엣지에서 추론 알고리즘을 실행하는 뉴로모픽 컴퓨팅 플랫폼의 최대 전력 효율성을 입증하기 위한 목적으로 설계되었다. 이를 통해 IHWK는 생성형 AI 모델, 자율 주행 자동차, 의료 진단, 음성 처리, 보안/감시 및 상업용 드론과 같은 애플리케이션을 위한 초저전력 아날로그 처리 장치(Analog processing unit) 개발을 최종 목표로 하고 있다.
현재 엣지 추론을 위해 사용되는 뉴럴 모델은 프로세싱을 위해서만 5,000만 개 이상의 시냅스(가중치)를 필요로 하며, 순수 디지털 솔루션에만 요구되는 오프칩 DRAM의 대역폭 확보 또한 어려워 뉴럴 컴퓨팅에 병목 현상이 발생해 전체 컴퓨팅 성능이 저하될 수 있다.
반면에 memBrain 솔루션은 시냅스(가중치)를 온칩 플로팅 게이트에 초저전력 서브-임계 모드에서 저장하고, 동일한 메모리 셀을 사용하여 컴퓨팅을 수행하므로 전력 효율성 및 시스템 지연 시간을 크게 개선한다. 기존의 디지털 DSP 및 SRAM/DRAM 기반 접근 방식과 비교하면, 마이크로칩의 솔루션은 각 추론 결정 당 전력 사용량이 10~20배 더 낮고 전체 비용을 크게 절감한다.
IHWK는 APU 디바이스 개발 및 설계를 위해 대전에 있는 한국과학기술원(KAIST)과 서울 연세대학교와 협력하고 있다. 최종 APU는 추론 작업을 수행하는데 필요한 알고리즘을 최적화하여, 그 결과 배터리로 구동되는 디바이스에서 사용하기 위해 설계된 인메모리 컴퓨팅 솔루션 중 가장 우수한 와트당 20-80 테라OPS 범위에서 작동할 것으로 예상된다.
By 김현동 에디터 Hyundong.Kim@weeklypost.kr
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 금지〉
Tag
#마이크로칩
