어드밴텍 스티브 창 부사장이 기조연설을 하고 있다.

(사진 무인화기술)

 

AI 기술이 데이터수집, 처리, 전처리 과정에서 효율성을 극대화하면서, 다양한 산업에서 AI 솔루션 도입이 가속화되고 있다. 이렇듯 AI가 다양한 분야에서 차세대 혁신기술로 주목받고 있는 가운데 산업분야에서 IoT와 AI 기술을 접목, 일찌감치 AI 기술을 자사 포트폴리오에 성공적으로 접목시켜온 어드밴텍(Advantech)이 지난 6월 18일 양재동 엘타워에서 ‘ 어드밴텍임베디드디자인인포럼 ( 2024ADF )’을 개최했다.

ADF는 매년 개최되는 연례행사로, 이번 행사에서는 AI 발전속도가 빨라질수록 AI 기반의 어플리케이션에 대한 수요가 급증할 것으로 예상되는 가운데, 엣지AI 시장을 타깃으로 한 어드밴텍의 다양한 엣지AI 솔루션과 전략이 발표됐다.

어드밴텍은 엣지AI 모듈부터 AI추론 시스템, 엣지 인텔리전스 서버 및 IoT 게이트웨이에 이르기까지 엣지AI 관련 풀 포트폴리오를 갖추고 있는 것이 장점으로, 이를 통해 OT와 IT 기술을 모두 아우르는 사업을 전개해 나가고 있는 점도 어드밴텍만의 차별화된 경쟁력이라고 할 수 있다.

특히, 지난 행사와 마찬가지로 이번 행사에서도 인텔과의 긴밀한 파트너십과 엔비디아와의 원천기술공유로, 자사가 지향하고 있는 엣지AI 컴퓨팅 분야에서 발 빠른 기술개발의 기반을 굳혀나가고 있는 행보를 보여줬다.

스티브 창(Steve Chang) 어드밴텍 임베디드 아시아 총괄 부사장은 행사 기조연설과 기자간담회 발표를 통해, 현재 AI가 세상을 변화시키고 있으며, 이러한 시장 흐름에 발맞춰 어드밴텍은 고객사에 최적화된 엣지AI용 제품군을 공급하면서, 관련시장을 지속적으로 주도해 나가겠다는 메시지를 강조했다.

 

 

 

어드밴텍케이알 안동환 상무가 새로운 비즈니스 창출이라는 주제로 발표를 하고 있다. (사진 무인화기술)

 

기존의 하드웨어에 AI가 내재화돼서 여러 가지 장비들이 지능화·스마트화

 

엣지AI 컴퓨팅 및 AI 임베디드 트랜스포메이션을 주제로 기자간담회에서 발표를 담당한 창 부사장은 AI는 리테일, 의료, 완성차, 컴퓨팅, 출입국 관리, 머신러닝 등 다양한 부문에서 쓰이고 있으며, 어드밴텍은 시장 흐름에 맞춰 고객사에 최적화된 엣지AI용 제품군을 공급하고 있다고 말했다.

또, 어드밴텍은 현재 보드 등 하드웨어 전문가로서 관련분야에서 글로벌 리더로 사업을 전개하고 있는데, 앞으로 AI와 관련해 폭이 넓으면서도 깊이 있는 행보를 이어갈 것이며, 각 고객사에 맞게 커스터마이징된 세부 폼팩터 맞춤형 하드웨어를 공급하는 한편, 실리콘 프로바이더나 원자재 회사까지 접촉해 빠른 기술을 제공하기 위해 노력할 것이라고 계획을 밝혔다. 또 기존의 하드웨어 공급을 넘어 소프트웨어 분야에서도 추가적인 가치를 창출할 것이라고 말하고, 이것은 단순히 소프트웨어뿐만 아니라 메모리 SSD 같은 주변기기와 자체개발한 히트 팬 시스템, 각종 OS나 BIOS, 나아가서는 고객들을 위해 커스터마이징해주는 원격제어 컨트롤 소프트웨어까지 아우르는 것을 의미한다고 설명했다.

창 부사장은 지금은 기존의 하드웨어에 AI가 내재화돼서 여러 가지 장비들이 지능화·스마트화되기 때문에, 여기에 맞는 AI를 기본적으로 내장하거나 작동시킬 수 있는 하드웨어 위주로 공급하는 것이 추세라고 말했다.

예를 들어 리테일의 경우 기존의 키오스크는 터치를 하고 양방향 정보로 이루어졌지만, 이제는 성별, 나이, 외모는 물론이고 언어까지 번역하는 스마트 키오스크가 나오는 시대이며, 이런 것들은 내재화된 AI를 좀 더 파워풀하게 돌릴 수 있는 하드웨어가 있다는 걸 방증하고 있다고 설명했다.

 

스티브 창(Steve Chang) 어드밴텍 임베디드 아시아 총괄 부사장은 기자간담회를 통해, 어드밴텍은 기존 하드웨어에 AI를 내재화하고, 소프트웨어 및 클라우드 통합까지 엔드 투 엔드(End to End) 솔루션을 제공해나갈 것이라고 자사의 시장전략을 밝혔다.(사진 무인화기술)

 

 

5G, 로보틱스, 자율이동로봇(AMR), 그린에너지, 전기차 충전 인프라 등의 5가지 분야에 주력

 

어드밴텍이 차세대 비즈니스로 보고 있는 분야는 5G를 기반으로 하는 인프라, 로보틱스, 자율이동로봇(AMR), 그린에너지, 전기차 충전 인프라 등의 5가지 분야다.

창 부사장은 이러한 신사업이나 AI 비즈니스를 위해서는 100개 이상의 엣지 컴퓨팅 플랫폼과 1000 명 이상의 기술지원 엔지니어, 500개 이상의 글로벌 파트너와 에코시스템이 준비되어야 한다고 설명했다.

또, AI 시장은 크게 클라우드AI와 엣지AI로 나누어지는데, 클라우드AI는 엔비디아와 같은 거대기업이나 공기업들이 주로 하고 있기 때문에, 어드밴텍은 유저와의 직접적인 관계를 통해 진행되는 엣지AI를 주력으로 사업을 전개하고 있다고 밝혔다.

 

어플리케이션 다양성이 엣지AI를 주도

 

창 부사장은 어플리케이션의 다양한 목적에 맞게 AI 기술이 사용되고 있다고 설명했다.

첫 번째는 CPU와 AI가 융합된 Light-weight AI로, 이는 저전력 칩셋이나 특수목적에 맞는 CPU이기 때문에 사람의 얼굴을 인지하는 필수적인 기능만 하는 AI 디바이스 어플리케이션이 여기에 해당한다. 작고 경량화된 어플리케이션에 사용되고 있다. 두 번째는 NPU/VPU를 사용하는 Medium AI로, 작업자 안전이나 로봇, 교통감시, 불량검출 등 좀 더 전문화된 어플리케이션에 사용된다. 세 번째는 Heavy AI로 그래픽 성능을 최대한 끌어올리는 서버급, 워크스테이션급은 GPU 카드가 탑재돼서 의료 이미징 어플리케이션이나 설치하고 나서 사람들에게 교육을 시키는 온프라미스 트레이닝 등에 사용이 된다.

 

애플리케이션 다양성이 엣지 AI를 주도한다.

 

한편, 어드밴텍은 AI가 가능한 임베디드 플랫폼을 통해서 끊김없이 업그레이드를 할 수 있도록 도움을 주고 있는데, 첫 번째가 각 제품에 맞게 선택할 수 있는 폼팩터를 제공하는 것이고, 두 번째는 영역 간의 경계를 없애는 것, 즉 현재 서버와 워크스테이션급 간의 경계가 없어지고 있는데, 중간에 경계 없이 자연스럽게 고객의 용도에 맞게 CPU, NPU, GPU를 이용한 제품을 통해서 영역을 없애도록 하고 있고, 세 번째는 에코 파트너나 플랫폼 밴더 등 다양한 고객 관계를 구축해서 전문적인 롱 텀 서비스를 제공하는 것이다.

 

엣지AI 보드와 엣지AI 시스템, AI 가속 모듈 등 엣지AI 컴퓨팅 솔루션 제공..AI를 통한 엣지 어플리케이션 혁신

 

 

엣지AI 컴퓨팅 솔루션

 

 

어드밴텍은 엣지AI 보드와 엣지AI 시스템, AI 가속 모듈 등 다양한 엣지AI 컴퓨팅 솔루션을 제공함으로써, AI를 통한 엣지 어플리케이션을 혁신하고 있다.

엣지 AI를 위한 AI 가속 모듈인 EAI 시리즈에는 10와트 이하의 EAI-1000시리즈, 휴대용 PC에 많이 쓰이는 50와트 미만의 EAI-2000시리즈, 50와트 이상의 고성능 그래픽카드 제품인 EAI-3000시리즈가 있다. 이 가운데 EAI-3101은 PCIe x16 Intel Arc A380E 내장형 GPU 카드다.

 

AI 가속 모듈 EAI 시리즈

 

 

새로운 MXM GPU 카드, 고성능 컴퓨팅 및 이미지 처리 기능으로 기계 자동화 및 비전 분야에서의 AI 어플리케이션 개발 가속화

 

어드밴텍은 공간 제약이 있는 어플리케이션을 위한 MXM GPU로 AI를 지원하고 있다. 이 제품은 인텔 그래픽 카드 외에 엔비디아 기반의 그래픽 카드 장착이 가능하고, 나아가서는 엔비디아 신규 MXM 타입의 GPU도 장착할 수 있다. 엔비디아 Ampere GPU와 어드밴텍 GPU Edge 컴퓨터를 사용해 MXM GPU 카드로 고성능 엣지AI를 강화할 수 있다. 이처럼 어드밴텍은 모든 범위의 MXM GPU 카드로 제품 선택을 완료했다. 새로운 MXM GPU 카드는 NVIDIA Amperere 아키텍처를 기반으로 구축되었으며, 2세대 RT Core와 3세대 Tensor Core를 갖추고 있어 광선 추적 및 AI 추론을 가속화할 수 있으며, 고성능 컴퓨팅 및 이미지 처리 기능을 제공한다. 이를 통해 기계 자동화 및 비전, 치과 및 수술 시스템, 운전자 보조 및 슬롯머신을 포함한 산업제조, 의료, 운송 및 게임 분야의 AI 어플리케이션 개발을 가속화할 수 있다.

AOM(AI on Module) 가운데 AOM-3511이 소개됐다. 이 제품은 NXP i.MX95 시스템 온 칩(SOC)을 통합한 최첨단 AI 온 모듈로서, 최대 6개의 Arm Cortex-A55 코어, 전용 Cortex-M7 및 M33 실시간 프로세서, 추가 신경망 가속기가 함께 제공된다.

어드밴텍케이알 정인 책임은 “AOM-3511은 일체형 PC나 로봇에 많이 쓰인다. 그동안 선박용 일체형 터치와 함께 제안을 해서 조만간 개발에 들어갈 예정이다”라고 밝혔다.

또 AOM-7721은 머신 비전 및 AI 어플리케이션을 위한 Qualcomm X Elite SoC로 구동되며, Qualcomm Next Generaton AOM 모듈은 최대 4.0GHz에서 작동하는 12개의 코어를 갖춘 Qualcomm Kryo CPU를 통해 최고 수준의 처리 성능을 제공함으로써 빠르고 효율적인 계산을 지원한다. 어드밴텍에서는 이 제품으로 양방향 서비스 키오스크에 제안을 하고 있다. 또 최대 45개의 Top을 제공할 수 있는 Qualcomm Hexagon 프로세서는 강력한 온디바이스 AI 계산을 지원하여 머신 비전 및 AI 관련 작업을 향상시킨다.

또 ROM-2860 OSM 1.1 컴퓨터 온 모듈은 Andreo GPU 643과 결합해 최대 Arm v8 Cortex®를 포함하는 Qualcomm QCS6490/5430 SoC로 구동되며, 청소로봇이나 AMR, 드론, HMI/AIO에 적합하다.

AIMB-293은 AI를 지원하는 Mini-ITX 마더보드도 출시를 앞두고 있다. Qualcomm 12 코어 프로세서로 45 TOPS AI 가속을 제공하며, 의료 및 스마트시티, AMR/AGV에 적용이 될 예정이다.

SOM-5885는 Intel® 14세대 코어 프로세서(코드명: Meteor Lake-U/H) COM Express 기본 Type6 모듈로 NPU가 통합된 최초의 COMe Basic이다. CPU 모듈을 가지고 고개사가 원하는 컴퓨팅을 가능하게 하는 세미 개발 툴로서, 그래픽 및 AI 컴퓨팅 성능을 가속화한다.

 

 

어드밴텍 대만 본사 스티브 창 부사장(왼쪽)과 어드밴텍케이알 안동환 상무(오른쪽) (사진 무인화기술)

 

 

엣지 AI 시스템도 라인업

 

엣지 AI 시스템도 4가지의 AIR 시리즈로 라인업을 완성했다.

첫 번째는 젯슨 기반의 AI SOM인 AIR-000시리즈로 AMR이나 로봇 등의 어플리케이션에 적합하다. 두 번째는 M.2 NPU 레벨의 AIR-100시리즈로서, HAILO 카드를 장착할 수 있는 소형 AI 가속장치를 장착할 수 있는 모델이다. 공공안전 어플리케이션에 적합하다. 세 번째는 MXM GPU를 장착할 수 있는 AIR-300시리즈이며, 네 번째는 산업용 서버, 워크스테이션급 의 AIR-500시리즈로 의료 및 LLM 트레이닝 어플리케이션에 적합하다.

어드밴텍은 올 하반기에 새로운 AI 시스템을 런칭할 예정으로, 고객은 사이즈나 용도에 따라 선택해서 사용할 수 있다.

작은 사이즈의 AIR-310은 불량품 검출에, AIR-510은 의료 이미징, AIR-520은 LLM fine-tune training에 적합하다. 창 부사장은 AIR-510과 AIR-520은 각각 AMD와 인텔 CPU를 채택하고 있으며, 그래픽 카드를 장착해서 하이엔드급의 이미징 장비와 AI 트레이닝에 제안을 하고 있다고 밝혔다.

특히 AI 추론시스템 AIR-520은 AMD EPYC 7003 Edge AI Server로 다양한 언어들을 편집하지 않고 집어넣어서 학습을 시키는 모델이다. 그래픽 카드를 용도에 맞게 수정해서 AI 엔지니어링을 개선할 수 있는 디바이스를 꾸며서 효율적으로 학습을 시킬 수 있는 4U LLM AI Server다.

 

AI 추론 시스템 AIR-520

 

 

어드밴텍은 이와 함께 AI SDK 개발 툴 킷을 제공, 안정적이고 효율적인 엣지AI 개발 환경을 구축할 수 있도록 지원하고 있다.

AI SDK 개발 툴 킷은 모든 추론 플랫폼을 위한 통합 도구 세트로서, 추론에 대한 벤치마킹 툴과 추론 런타임 SDK, 추론 배포 플랫폼, 글로벌 고객 지원이 포함이 된다.

벤치마킹 툴은 신속한 AI 추론 평가를 위한 노코드 GUI를 지원하며, 추론 런타임 SDK는 어드밴텍 엣지 장치에 호환 설치가 가능하다. 추론 배포 플랫폼은 확장 가능한 업데이트를 통해 원격으로 AI 컨테이너를 관리할 수 있고, 글로벌 고객 지원 부분에서는 추론 컴퓨팅 및 Edge-to-Cloud 컨설팅 서비스를 준비하고 있다.

또, 어드밴텍의 엣지AI SDK 소프트웨어 스택은 개발 장비사에는 벤치마킹 툴을 제공해서 개발을 쉽게 지원하고, 런타임 SDK로 용도에 맞는 SDK를 제공해서 개발에 도움을 주며, 완성된 제품의 배포를 위한 배포 플랫폼을 제공한다.

 

엣지AI SDK 소프트웨어 스택-ppt 39 그림 사용

 

엔드 투 엔드 엣지(End-to-End) AI 소프트웨어 솔루션 제공

 

창 부사장은 어드밴텍은 이처럼 끝단에서 끝단까지 다이렉트로 솔루션을 공급할 수 있으며, 평가단계부터 트레이닝, 개발, 추론에 도움을 주는 순환단계를 통해 모든 단계에서 다재다능하고 가속화된 배포를 지원한다고 강조했다. 또 NVAIE(NVIDIA AI Enterprise) 및 글로벌 총판으로서 사업을 전개하고 있으며, Intel Geti 컴퓨터 비전 AI 교육 소프트웨어를 공급하고 있다고 말했다.

 

엔드 투 엔드 엣지 AI 소프트웨어 솔루션-PPT 40P 그림 사용

 

창 부사장은 어드밴텍은 인텔과 긴밀한 파트너십에 따라 제품 출시 전부터 공동개발을 통해 최신 기술을 갖춘 AI 지원 제품을 산업계에 적시에 공급하고 있으며, AI 부문에서 엔비디아와 원천기술을 공유해 관련 플랫폼을 개발·공급함으로써 최적 솔루션 지원이 가능하다고 역설했다.

이와 함께, 자사가 강했던 기존 하드웨어 기술 중심으로 넓고 깊게 파고들어 고객에게 도움을 주고, 여기서 더 나아가 소프트웨어 및 솔루션 레벨로 사업을 확대해 장기적으로 솔루션 플랫폼과 에코까지 제공할 수 있는 솔루션 파트너로 성장해 나가고 있다는 말로 발표를 마무리했다.

한편 이번 행사는 인텔, 엔비디아, MS, NXP 등 글로벌 파트너사들을 비롯해 SOD 유튜버 등 업계 관계자가 주제발표를 담당, 행사를 풍성하게 장식했다.

 

 

2024 ADF 행사장 전경