산업용 엣지 AI 애플리케이션에 적합한 솔루션 활용 방법과 핵심 트렌드
AI 기술의 힘은 모든 컴퓨팅 시스템에 극적인 변화를 일으키고 있다. 이제 AI에 최적화된 환경을 갖추는 것은 클라우드 내 데이터센터나 서버뿐 아니라, 엣지와 엔드포인트의 임베디드 시스템에서도 필수가 되었다. 이러한 진화가 가속화되면서 두 가지 주요 트렌드가 부상하고 있다.
바로 생성형 AI(Generative AI)와 초소형 머신러닝(TinyML)이다. 이 두 기술은 모든 마이크로컨트롤러와 마이크로프로세서를 위한 임베디드 애플리케이션의 확장 가능 성장을 이끌 핵심 동력으로 주목받고 있다. 이 기사에서는 확대되고 있는 임베디드 AI 애플리케이션의 흐름과, 기업과 개발자들이 이 성장 기회를 어떻게 활용할 수 있는지에 대한 솔루션을 소개한다.
임베디드 AI란 무엇인가?
최근 임베디드 AI에 대한 투자가 급증하고 있다는 소식이 업계 전반에 걸쳐 전해지고 있다. 그러나 이러한 성장을 이끄는 배경을 이해하기 위해서는 먼저 임베디드 AI의 개념과 특성을 짚어볼 필요가 있다.
임베디드 AI는 데이터센터 내 서버에서 실행되는 AI와는 달리, 임베디드 시스템에서 구동되는 인공지능을 포괄적으로 일컫는 용어다. 즉 임베디드 AI는 클라우드가 아닌 엣지(Edge)와 엔드포 인트(Endpoint)에서 실행된다.
클라우드 기반 AI는 대규모 서버 등 중앙 집중형 컴퓨터에서 처리되는 반면, 임베디드 AI는 다양한 임베디드 시스템과 컴퓨터 장치에 분산되어 실행된다. 이러한 차이로 인해 임베디드 AI는 더욱 다양한 환경과 조건에서 동작할 수 있는 유연성과 확장성을 요구받는다.
<그림1> AI는 MCU 및 MPU 기반의 모든 임베디드 컴퓨팅 시스템에 적용 영역을 넓혀가고 있다.
임베디드 AI의 주요 트렌드
현재 임베디드 AI의 활용 사례는 기능적 관점에서 두 가지 유형으로 분류할 수 있다. 하나는 새로운 디바이스에 AI 기능을 적용하는 경우이며, 다른 하나는 기존 디바이스를 AI로 고도화하는 경우다.
새로운 디바이스의 AI 활용은 주로 AI 카메라를 통해 인식 능력을 향상시키고, 기존에 사람이 수행하던 작업을 자동화하며, 전반적인 작업 효율을 높이는 데 초점이 맞춰진다.
대표적인 사례로는 자율주행 로봇, 감시 카메라, 그리고 공장내 품질 검사 시스템 등이 있다. 이처럼 AI의 도입을 통해 새로운 시장이 창출되고 있으며, 그 성장 속도도 빠르다. 이 유형은 주로 비전 AI(Vision AI) 기반의 애플리케이션에서 두드러진다.
반면, 기존 디바이스의 AI 적용은 모터 주변기기의 이상 감지, 인간-기계 인터페이스(HMI)에서의 분류 및 판단 기능, 그리고 기존의 고전적인 알고리즘으로는 구현이 어려웠던 기능을 대체하는 방식으로 나타난다. 이 유형은 개별 환경 조건의 차이나 설치 및조정 작업 등, 그동안 해결이 어려웠던 과제를 AI로 해결하며 임베디드 AI의 활용 범위를 획기적으로 넓혀준다.
이 두 가지 확장 유형을 통해, AI는 마이크로컨트롤러(MCU)든 마이크로프로세서(MPU)든 관계없이 모든 임베디드 시스템에 적용될 수 있으며, 비전, 음성, 다양한 실시간 센서 등 모든 입력 정보와 결합하여 강력한 애플리케이션을 구현할 수 있다.
특히 비전 AI의 경우, 임베디드 AI 시장을 더욱 확대할 두 가지 주요 트렌드, 즉 Gen AI 트랜스포머와 TinyML이 부상하고 있다. 비전 AI는 카메라 기기의 비전 데이터를 사용하며 <그림2>와 같이 고성능 AI 모델의 개발과 함께 확장되고 있다.
<그림2> 비전 AI 애플리케이션의 성능 진화
비전 AI의 고성능화 흐름속에서 현재 불연속적인 변화가 나타나고 있다. 이러한 변화는 생성형 AI(Gen AI) 기반의 트랜스포머 (Transformer) 모델이 클라우드뿐만 아니라 엣지 및 엔드포인트에서도 적용되기 시작한 데에서 비롯된다.
트랜스포머 모델은 순차적 데이터의 맥락을 학습하고, 이를 바탕으로 새로운 데이터를 생성할 수 있는 신경망 구조다. 특히 이 모델은 Self-Attention 레이어를 통해 인식 정확도를 크게 향상시키며, 기존의 합성곱 신경망(CNN) 모델 대비 인식 오류율을 절반 수준으로 줄일 수 있는 것으로 나타났다.
정확도는 산업용 시스템에서 생산성과 생산 비용에 직접적인 영향을 주는 핵심 지표인 만큼, 트랜스포머 모델의 도입은 비전 AI 애플리케이션의 범위를 더욱 확대할 새로운 기회를 제공할 것으로 기대된다.
그동안 AI 기술은 클라우드에서 시작해 엣지와 엔드포인트로 확장되는 흐름을 보여왔지만, 최근에는 이와 반대로 임베디드 AI, 그중에서도 TinyML에서 출발하는 새로운 트렌드가 주목받고 있다.
엣지와 엔드포인트는 클라우드에 비해 연산 자원과 메모리 용량이 제한적이기 때문에, 비전 AI 모델의 구현은 상대적으로 고성능 MPU 기반 제품에만 국한되는 경우가 많았다. 하지만 TinyML은 연산량과 메모리 요구량을 최소화한 초소형 비전 AI 모델을 가능케하며, 이를 통해 비전 AI는 고성능 제품군뿐 아니라 보급형 시장으로도 적용 범위를 넓혀갈 수 있다.
<그림3> 고성능부터 보급형까지 확장되는 AI 모델 지도
<그림3>은 AI 모델들을 연산 자원(초당 연산 횟수, MFLOPS)을 나타내는 가로축과 메모리 자원(파라미터 수, M Parameters)을 나타내는 세로축상에 분포시킨 그래프다. 기존의 AI 모델은 그래프내 녹색 영역으로 표시되며, Gen AI 기반 트랜스포머 모델은 고성능 방향으로, TinyML 기반 트렌드는 저성능 영역에서 새로운 시장을 창출하며 각기 다른 방식으로 AI 시장을 확장하고 있다.
트랜스포머 기반 Gen AI와 TinyML이라는 두 가지 트렌드는 AI 모델의 상·하단 시장 모두에서 새로운 가능성을 열고 있다. 이러한 흐름속에서 임베디드 시스템에 AI를 구현하려는 수요는 앞으로 기하급수적으로 증가할 것으로 예상된다. 머지않아 임베디드 AI 분야에서는 Tiny Gen AI, Tiny Transformer, Tiny LLM과 같은 차세대 기술도 등장할 가능성이 있다.
임베디드 AI 시스템을 위한 3대 핵심 요건
앞서 살펴본 트렌드를 실제 비즈니스 성과로 연결하기 위해서는, 다음과 같은 세 가지 필수 요건을 갖추는 것이 중요하다.
① 모든 AI 개발 단계(여정)를 지원하는 확장성
② 사용 편의성을 갖춘 개발 환경
③ AI 트렌드를 구현할 수 있는 차별화된 제품
임베디드 AI는 주로 소프트웨어 중심 개발으로 진행되기 때문에 무엇보다 개발 비용의 효율적 관리가 핵심이다. 특히 AI 소프트웨어를 현장에서 주기적으로 업데이트하는 수명주기 관리는 제품의 부가가치를 높이고 장기적인 비즈니스 성공을 위해 반드시 필요하다. 이러한 관점에서 확장 가능한 하드웨어 제품군과 확장 가능한 AI 개발 환경의 결합이 매우 중요하다.
여기에 더해, 최신 AI 트렌드를 선도하기 위해서는 단순한 성능경쟁을 넘어 비용 대비 차별화된 성능이 경쟁력의 핵심으로 부각 된다. 특히 고성능화가 가속화되는 가운데, 전력 효율성(power efficiency)은 비용 절감과 성능 향상을 동시에 달성할 수 있는 중요한 차별화 요소가 되고 있다. 궁극적으로는 비용과 성능 양면에서 차별화된 신제품을 다양한 애플리케이션에 손쉽게 적용할수 있도록 하는 접근성 또한, 성공적인 임베디드 AI 구현의 마지막 조건이라 할 수 있다.
<그림4> 임베디드 AI의 성장 기회를 효과적으로 활용하기 위한 세 가지 핵심 요건
Renesas의 확장형 임베디드 AI 솔루션
Renesas는 오랜 기간 축적된 임베디드 프로세싱 기술력을 바탕으로, 새로운 AI 시스템의 요구를 충족하는 임베디드 AI 솔루션을 지속적으로 선보이고 있다. Renesas가 자체 개발한 DRP-AI3 AI 가속기를 탑재한 RZ/V2H 시리즈 MPU는 기존 DRP-AI 제품 대비 약 10배 향상된 전력 효율을 제공한다.
이는 고성능 AI 애플리케이션에서 가장 큰 과제로 꼽히는 발열 문제를 효과적으로 해결하면서도, 우수한 성능과 경쟁력 있는 비용을 동시에 실현할 수있는 솔루션으로 주목받고 있다. RZ/V2H는 고성능 AI 추론을 팬없이 구동할 수 있을 만큼 높은 전력 효율을 자랑하며, 발열 문제 없이도 기존 팬이 필요한 MPU와 동일한 AI 추론을 수행할 수 있음을 보여준다.
<그림5> 팬 없이 구동되는 RZ/V2H와 팬이 필요한 기존 MPU의 AI 추론 성능 비교
자료제공: Renesas(www.renesas.com)
