딥 러닝 워크로드에 최적화된 Hailo-8 프로세서

HAILO

딥 러닝 워크로드에 최적화된 Hailo-8 프로세서는 1페니 동전보다 작으며 경쟁 제품에 비해 다양한 효율성과 수행 이점을 제공한다.

최고 기술 책임자인 Avi Baum은, Hailo-8 프로세서는 딥 러닝 애플리케이션을 위한 새로운 유형이라며 “센싱이 예전보다 더 강력해졌다. 저비용 및 저 전력이며, 연산 능력은 더 확장할 필요가 없다. GPU는 광범위하게 제공되며 사용자 요구 사항에 아주 적합한 솔루션이다."라고 말했다.

Hailo의 아키텍처(structure-defined data flow architecture)는 분산된 온칩 메모리 패브릭, 새로운 제어 방식, 효율적인 상호 연결 그리고 하드웨어 아키텍처와 함께 설계된 풀 스택 소프트웨어 툴체인(full-stack software toolchain)으로 설계됐다. Baum은 “아키텍처는 컴퓨팅과 메모리 그리고 제어를 위한 빌딩 블록으로 구성된다. 디바이스에 따라 물리적으로 분산되며 신경망의 다른 계층을 처리하기 위해 컴파일 시간 동안 할당된다.”고 설명했다.

함께 제공되는 소프트웨어 개발 키트 SDK는 TensorFlow, Caffe 및 ONNX와 같은 기존 신경망 및 딥 러닝 프레임 워크에 통합할 수 있다. 프레임 워크에서 Hailo 형식으로 모델 변환을 제공한다. 프로파일링 및 에뮬레이션을 위해 하드웨어가 없는 디버그 및 분석 도구를 사용할 수 있고, 신경망 이점을 활용하려는 개발자의 진입 장벽을 낮췄다. Hailo-8은 8 비트의 22 4x 224 해상도로 신경망 ResNet-50을 실행할 때, 2W 전력 및 2.9 TOPS/W에서 780 fps의 프레임 속도를 보여준다.

TOPS(Tera Operations Per Second)는 시스템 온 칩에 사용되는 성능 메트릭을 나타낸다. TOPS/W(Watts per watt)는 효율성을 측정하며 TOPS/W가 높을수록 더 좋다. NVIDIA의 Xavier AGX 임베디드 프로세서의 경우, 31W 전력 및 0.14 TOPS/W에서 656 fps의 프레임 속도를 나타낸다. 작업을 수행하는 동안, Hailo-8 프로세서는 거의 전력이 20배나 적게 소비된다. 최근 더 높은 해상도 및 성능의 네트워크에 대한 수요가 증가함에 따라, 신경망에서 수행되는 비전 시스템의 작업은 시나리오에서 2개 이상의 TOPS가 필요하다.

Hailo-8 프로세서는 최대 26개의 TOPS를 수행할 수 있다. Baum은 “Hailo의 프로세서는 엣지 디바이스가 애플리케이션을 더 저렴한 비용으로 더 효과적으로 운영할 수 있다. 자율 주행 차량, 드론, 스마트 가전제품과 AR/VR 플랫폼 등 기기가 보다 효율적으로 작동될 수 있다.

요컨대, Hailo는 AI 컴퓨팅을 목표로 한다.”며 “자동차 산업의 시스템의 복잡성을 낮추려고 노력했다. 반면에 센서 적용 및 머신 러닝을 통해 사용자에게 더 큰 이익을 줄 수 있다.”고 말했다.

자료 제공: HAILO(www.hailo.ai)