어드밴텍, LLM 파인 튜닝에 최적화된 엣지 AI 서버 ‘AIR-520’ 국내 출시

▲ LLM 파인 튜닝에 최적화된 어드밴텍 엣지 AI 서버 AIR-520

글로벌 산업용 IoT 및 엣지 컴퓨팅 솔루션 전문 기업 Advantech은 대규모 언어 모델(LLM) 기반 생성형 AI(GenAI)의 현장 적용을 지원하는 고성능 엣지 AI 서버 AIR-520이 국내에 공식 출시되었다고 밝혔다.

어드밴텍 관계자는 “AIR-520은 AI와 LLM의 결합으로 생성형 AI를 엣지에서 실행하고자 하는 기업 고객에게 가장 이상적인 선택”이라며, “보안, 성능, 확장성을 모두 갖춘 플랫폼으로 다양한 산업의 AI 혁신을 가속화할 것”이라고 말했다.

안정적인 고성능 플랫폼 제공
 

AIR-520은 강력한 AMD EPYC 서버 시리즈 프로세서를 탑재하여 최대 64코어의 성능을 자랑하며, NVIDIA 데이터 센터 GP와 호환되어 고속 데이터 처리와 효율적인 LLM 운영을 가능하게 하고, 생성형 AI 워크로드에 최적화된 연산 처리 능력, 고속 메모리 대역폭, 산업 환경을 고려한 설계까지 갖춰, 다양한 분야에서 실제 적용이 가능하다. 특히 온프레미스 실행에 필요한 연산 성능과 안정성을 동시에 제공하여 AI 트레이닝 및 추론 속도를 극대화하여 제조업체들이 생산성과 효율성을 크게 향상시킬 수 있도록 돕는다.

다양한 산업군에 적용
 

AIR-520은 이미 글로벌에서 제조, 법률, 공공 서비스 등 다양한 산업군에서 적용되어 실질적인 효과를 입증하고 있다. 제조 분야에서는 설비 데이터 분석을 기반으로 품질 이상 탐지 및 유지 보수 의사결정 지원에 활용되고 있으며, 법률 산업에서는 상담 자동화와 문서 분석에 적용되어 업무 효율을 크게 향상시킨 바있다. 지방 행정 서비스에서도 시민 민원 자동 응대 및 내부 문서 요약 시스템에 활용돼 공공 행정의 디지털 전환을 가속화하고 있다.

자체 소프트웨어 플랫폼 함께 제공
 

어드밴텍은 이번 AIR-520 출시와 함께 자체 소프트웨어 플랫폼인 Edge AI SDK 및 GenAI Studio를 함께 제공하여, LLM 기반 워크플로우를 쉽고 빠르게 구축할 수 있도록 지원한다. 특히 AIR-520은 데이터 보안 및 응답 속도가 중요한 현장 중심 애플리케이 션에 적합하도록 설계되었다. 온프레미스 운영 환경을 전제로 하기 때문에 클라우드 의존 없이도 민감한 데이터를 안전하게 처리할 수 있으며, 산업용 컴팩트 설계와 워크스테이션형 폼팩터를 갖췄고, 강력한 냉각 시스템으로 신뢰성을 확보했다.

자료제공: 어드밴텍(www.advantech.co.kr)