엔비디아, 로보틱스와 엣지 위한 젯슨 플랫폼 확장 발표 - News

AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr)가 엣지AI와로보틱스를 위한 엔비디아젯슨(NVIDIA Jetson) 플랫폼의 두 가지 프레임워크를 대대적으로 확장한다고 발표했다. 아울러 엔비디아 아이작(Isaac) ROS 로보틱스 프레임워크는 정식 버전으로 출시됐으며, 젯슨의 엔비디아 메트로폴리스(Metropolis) 확장 버전은 출시를 앞두고 있다.

생성형 AI는 사실상 모든 산업에 트랜스포머 모델과 대규모 언어 모델의 강력한 성능을 제공한다. 이제 그 범위는 엣지, 로보틱스와 물류 시스템까지 아우를 예정이다. 여기에는 불량 감지, 실시간 자산 추적, 자율 계획과 탐색, 인간과 로봇의 상호 작용 등이 포함된다.

엔비디아는 개발자가 최신 오픈 소스 생성형 AI 모델과 함께 사용할 수 있는 젯슨 생성형 AI 랩(Jetson Generative AI Lab)을 만들었다. 이를 통해 개발자는 엣지에서 AI 애플리케이션 개발과 배포를 가속화할 수 있다.

아울러 120만 명 이상의 개발자와 아마존 웹 서비스(Amazon Web Services), 시스코(Cisco), 존 디어(John Deere), 메드트로닉(Medtronic), 펩시코(Pepsico), 지멘스(Siemens) 등 10,000개 이상의 고객사가 엔비디아 AI와 젯슨 플랫폼을 선택했다.

빠르게 진화하는 AI 환경이 점점 더 복잡해지면서 개발자는 엣지용 AI 애플리케이션을 구축하는 데 더 긴 개발 주기가 요구된다. 변화하는 환경, 제조 라인, 고객의 자동화 요구 사항을 충족하기 위해 로봇과 AI 시스템을 즉시 재프로그래밍하는 데 많은 시간이 소요되며 전문 기술이 필요하다.

생성형 AI는 자연어 인터페이스를 통해 제로 샷(zero-shot) 학습을 제공해 엣지에서 AI의 개발, 배포와 관리를 간소화한다. 제로 샷 학습은 모델이 훈련에서 이전에 보지 못했던 사물을 인식하는 기능이다.

AI 환경의 변화

생성형 AI는 인간의 언어 프롬프트를 이해해 모델을 변경함으로써 사용 편의성을 극대화한다. 이러한 AI 모델은 감지, 세분화, 추적, 검색, 재프로그래밍까지 보다 유연하게 수행할 수 있다. 또한 기존의 합성곱 신경망 기반 모델(convolutional neural network-based models)을 능가하는 성능을 발휘할 수 있다.

ABI 리서치(ABI Research)에 따르면 생성형 AI는 2033년까지 전 세계 제조 업계에 105억 달러의 매출을 창출할 것으로 예상된다.

엔비디아 임베디드와 엣지 컴퓨팅 부사장인 디푸 탈라(Deepu Talla)는 "생성형 AI는 이전보다 더 나은 일반화, 사용 편의성, 높은 정확도를 통해 엣지에서의 AI 배포를 크게 가속화한다. 역대 최대 규모 소프트웨어 확장을 통해 메트로폴리스와 아이작 프레임워크가 젯슨에서 트랜스포머 모델과 생성형 AI의 강력한 성능과 결합돼 이러한 요구를 해결한다"고 말했다.

엣지에서 생성형 AI로 개발

젯슨 생성형 AI 랩은 개발자가 오픈 소스 LLM, 탁월한 인터랙티브 이미지를 생성하는 확산 모델, 비전 AI와 자연어 처리를 결합해 장면에 대한 포괄적인 이해를 제공하는 비전 언어 모델(VLM)과 비전 트랜스포머(ViT)를 배포하는 데 최적화된 툴과 튜토리얼에 액세스할 수 있도록 지원한다.

더불어 개발자는 엔비디아 타오 툴킷(TAO Toolkit)을 통해 엣지 애플리케이션을 위한 효율적이고 정확한 AI 모델을 만들 수 있다. TAO는 ViT와 비전 기본 모델을 포함한 비전 AI 모델을 미세 조정하고 최적화할 수 있는 로우코드 인터페이스를 제공한다. 또한 엔비디아 NV-DINOv2와 같은 기본 모델 또는 오픈클립(OpenCLIP)과 같은 공개 모델을 사용자 정의하고 미세 조정해 매우 적은 데이터로 정확한 비전 AI 모델을 생성할 수 있다. TAO에는 이제 결함 검사를 위한 새로운 트랜스포머 모델인 비주얼체인지넷(VisualChangeNet)이 추가로 포함된다.

새로운 메트로폴리스와 아이작 프레임워크 활용

엔비디아 메트로폴리스는 기업이 세계 최고 수준의 비전 AI 지원 솔루션을 보다 쉽고 비용 효율적으로 도입해 중요한 운영 효율성과 안전 문제를 개선할 수 있도록 지원한다. 이 플랫폼은 개발자가 복잡한 비전 기반 애플리케이션을 빠르게 개발할 수 있도록 강력한 애플리케이션 프로그래밍 인터페이스와 마이크로서비스 모음을 제공한다.

BMW 그룹, 펩시코, 크로거(Kroger), 타이슨 푸드(Tyson Foods), 인포시스(Infosys)와 지멘스 등 1,000개 이상의 기업에서 엔비디아 메트로폴리스 개발자 툴을 사용하고 있다. 이를 통해 사물 인터넷, 센서 처리와 운영 문제를 비전 AI로 해결하며, 이러한 채택 속도가 점점 빨라지고 있다. 이 툴은 현재 비전 AI 애플리케이션을 구축하려는 사용자가 1백만 번 이상 다운로드했다.

아울러 개발자가 확장 가능한 비전 AI 애플리케이션을 빠르게 빌드하고 배포할 수 있도록, 엔비디아 젯슨의 확장된 메트로폴리스 API와 마이크로서비스 세트가 연말까지 제공된다.

농업, 창고 자동화, 라스트마일 딜리버리(last-mile delivery), 서비스 로봇 등 다양한 영역에서 수백 명의 고객이 고성능 로보틱스 솔루션을 개발하기 위해 엔비디아 아이작 플랫폼을 사용한다.

로스콘(ROSCon) 2023에서 엔비디아는 아이작 ROS와 아이작 심(Isaac Sim) 소프트웨어의 새로운 출시를 통해 인식과 시뮬레이션 기능이 크게 향상됐다고 발표했다. 아이작 ROS는 광범위하게 사용되는 오픈 소스 로봇운영체제(ROS)를 기반으로 자동화에 인식 기능을 추가하고 움직이는 물체에 눈과 귀를 부여한다. 로봇 개발자는 GPU 가속 GEM의 성능을 활용해 다양한 애플리케이션에 적합한 로봇 솔루션을 신속하게 엔지니어링하는 데 필요한 도구를 확보할 수 있다. GPU 가속 GEM 강력한 기능에는 시각적 주행 거리 측정, 깊이 인식, 3D 장면 재구성, 위치 추적과 계획 등이 포함된다.

최신 아이작 ROS 2.0 출시를 통해 개발자는 젯슨으로 고성능 로봇 솔루션을 개발하고 시장에 출시할 수 있다.

오픈 소스 로보틱스 재단(Open Source Robotics Foundation)의 CTO인 제프 빅스(Geoff Biggs)는 "ROS는 전체 로봇 커뮤니티를 위한 오픈 소스 소프트웨어를 제공하기 위해 지속적으로 성장하고 발전하고 있다. 이번 릴리스와 함께 출시된 엔비디아의 새로운 사전 빌드 ROS 2 패키지는 대규모 엔비디아 젯슨 개발자 커뮤니티에서 ROS 2를 쉽게 사용할 수 있게 함으로써 이러한 성장을 가속화할 것"이라고 말했다.

새로운 참조 AI 워크플로우 제공

프로덕션 레디(production-ready) AI 솔루션을 개발하려면 다양한 기능이 요구된다. 여기에는 특정 사용 사례에 맞춘 AI 모델 개발과 훈련 최적화, 플랫폼에 강력한 보안 기능 구현, 애플리케이션 조율, 플릿 관리, 엣지-클라우드 간 원활한 통신 구축 등이 필요하다.

엔비디아는 메트로폴리스와 아이작 프레임워크를 기반으로 한 엄선된 AI 참조 워크플로우(AI Reference Workflow)의 제품군을 발표했다. 이를 통해 개발자들은 전체 워크플로우를 빠르게 채택하거나 개별 구성 요소를 선택적으로 통합해 개발 시간과 비용을 크게 절감할 수 있다. 이 세 가지 AI 워크플로우에는 네트워크 비디오 레코딩(Network Video Recording), 자동 광학 검사(Automatic Optical Inspection), 자율주행 로봇(Autonomous Mobile Robot)이 포함된다.

티리아스 리서치(Tirias Research)의 수석 애널리스트인 짐 맥그리거(Jim McGregor)는 "광범위하고 다양한 사용자 기반과 파트너 에코시스템을 갖춘 엔비디아 젯슨은 엣지에서 로보틱스와 AI의 혁신을 주도하고 있다. 애플리케이션 요구사항이 점점 더 복잡해짐에 따라, 엣지 배포를 간소화하고 가속화하는 플랫폼으로의 근본적인 전환이 필요하다. 엔비디아의 이번 소프트웨어 확장을 통해 개발자들은 새로운 멀티 센서 모델과 생성형 AI 기능에 액세스할 수 있게 됐다"고 말했다.

더 많은 서비스 출시 예정

엔비디아는 모든 개발자가 엣지 AI 솔루션을 구축할 때 필요한 기본 기능인 시스템 서비스 제품군을 발표했다. 이러한 서비스는 워크플로우로의 통합을 간소화하고 개발자가 처음부터 구축해야 하는 고된 작업을 덜어준다.

연말에 출시 예정인 새로운 엔비디아 젯팩 6(JetPack 6)는 AI 개발자가 젯슨 리눅스(Jetson Linux)를 완전히 업그레이드하지 않아도 최첨단 컴퓨팅을 유지할 수 있도록 지원한다. 이를 통해 AI 개발자들이 개발 일정을 크게 단축하고 젯슨 리눅스의 종속성에서 벗어날 수 있도록 해준다. 더불어 젯팩 6는 리눅스 배포 파트너와의 협업을 통해 리눅스 기반 배포판 선택의 폭을 넓힐 예정이다. 여기에는 캐노니컬(Canonical)의 최적화하고 공인된 우분투(Ubuntu), 윈드 리버 리눅스(Wind River Linux), 컨커런트 리얼타임 레드호크 리눅스(Concurrent Real-Time Redhawk Linux)와 다양한 욕토(Yocto) 기반 배포판 등을 포함한다.

플랫폼 확장을 통한 파트너 에코시스템의 이점

젯슨 파트너 에코시스템은 하드웨어, AI 소프트웨어, 애플리케이션 디자인 서비스부터 센서, 연결성과 개발자 툴까지 광범위한 지원을 제공한다. 이러한 엔비디아 파트너 네트워크(Partner Network)의 혁신가들은 시중에 판매되는 많은 제품의 구성 요소와 하위 시스템을 제공하는 데 중요한 역할을 한다.

젯슨 파트너는 최신 출시를 통해 향상된 성능과 기능을 갖춘 AI를 채택함으로써 시장 출시 기간을 단축하고 고객 기반을 확장할 수 있다.

독립 소프트웨어 공급업체 파트너도 젯슨을 위한 제품 확장이 가능하다.

11월 8일 오전 2시(한국시간)에 진행되는 엔비디아 젯슨 웨비나(Bringing Generative AI to Life with NVIDIA Jetson webinar)를 통해 기술 전문가들의 더욱 자세한 설명을 확인할 수 있다. 젯슨에 LLM과 VLM을 배포하기 위한 가속화된 API와 양자화 방법, 텐서RT(TensorRT)를 사용한 비전 트랜스포머(Vision Transformer) 최적화 등에 대해 이야기한다.