엔비디아(www.nvidia.co.kr)가 엣지환경에서실시간AI추론 을 수행할 수 있는 엔비디아젯슨토르 (NVIDIA Jetson Thor) 모듈을 출시했다. 젯슨 토르는 연구와 산업 현장의 로봇 시스템에서 두뇌 역할을 수행하며, 휴머노이드와 산업용 로봇 등 다양한 로봇이 보다 스마트하게 동작하도록 지원한다.

 

로봇은 방대한 센서 데이터와 저지연 AI 처리를 요구한다. 실시간 로봇 애플리케이션을 실행하려면 여러 센서에서 동시 발생하는 데이터 스트림을 처리할 수 있는 충분한 AI 컴퓨팅 능력과 메모리가 필요하다. 현재 정식 출시된 젯슨 토르는 이전 모델인 엔비디아 젯슨 오린(Orin) 대비 AI 컴퓨팅이 7.5배, CPU 성능이 3.1배, 메모리 용량이 2배 향상돼 이러한 처리를 디바이스에서 가능하게 한다.

 

이러한 성능 도약은 로봇 연구자들이 고속 센서 데이터를 처리하고 엣지에서 시각적 추론을 수행할 수 있도록 한다. 이는 기존에는 동적인 실제 환경에서 실행하기에는 속도가 너무 느려 실행하기 어려웠던 워크플로우이다. 이로써 휴머노이드 로보틱스와 같은 멀티모달 AI 애플리케이션의 새로운 가능성을 열어주고 있다.

 

휴머노이드 로보틱스 선도 기업인 어질리티 로보틱스(Agility Robotics)는 자사 5세대 로봇 디지트(Digit)에 엔비디아 젯슨을 통합했다. 이어서 6세대 디지트에는 온보드 컴퓨팅 플랫폼으로 젯슨 토르를 채택할 계획이다. 이를 통해 디지트는 실시간 인식과 의사결정 능력을 강화하고 점차 복잡해지는 AI 기술과 행동을 지원할 수 있게 된다. 디지트는 현재 상용화됐으며, 창고와 제조 환경에서 적재, 상차, 팔레타이징(palletizing) 등 물류 작업을 수행하고 있다.

 

어질리티 로보틱스의 CEO인 페기 존슨(Peggy Johnson)은 “젯슨 토르가 제공하는 강력한 엣지 처리 성능은 디지트를 한 단계 도약시켜 실시간 반응성을 개선하고, 더 폭넓고 복잡한 기술을 수행할 수 있도록 능력을 확장한다. 우리는 젯슨 토르를 통해 최신 피지컬 AI 혁신을 고객의 물류창고와 공장 운영 최적화에 적용할 수 있다”고 말했다.

 

30년 넘게 업계 최고 수준의 로봇을 개발해온 보스턴 다이내믹스(Boston Dynamics)는 자사 휴머노이드 로봇 아틀라스(Atlas)에 젯슨 토르를 탑재하고 있다. 이를 통해 아틀라스는 이전에는 서버급에서만 가능했던 컴퓨팅, AI 워크로드 가속, 고대역폭 데이터 처리, 대용량 메모리를 디바이스 내에서도 활용할 수 있게 됐다.

 

휴머노이드 로봇 외에도, 젯슨 토르는 더 크고 복잡한 AI 모델을 위한 실시간 추론을 통해 다양한 로봇 애플리케이션을 가속화할 예정이다. 여기에는 수술 보조, 스마트 트랙터, 배송 로봇, 산업용 매니퓰레이터(manipulator), 시각 AI 에이전트 등이 포함된다.

 

실시간 로봇 추론을 위한 거대한 도약

 

젯슨 토르는 생성형 추론 모델을 위해 설계됐다. 이는 차세대 피지컬 AI 에이전트가 클라우드 의존도를 최소화하면서 엣지에서 실시간으로 실행될 수 있도록 한다. 차세대 피지컬 AI 에이전트는 대형 트랜스포머 모델, 비전 언어 모델(vision language model, VLM), 비전 언어 행동(vision language action, VLA) 모델을 기반으로 구동된다.

 

젯슨 토르는 젯슨 소프트웨어 스택으로 최적화돼 실제 애플리케이션에서 요구되는 저지연과 고성능을 구현한다. 따라서 젯슨 토르는 모든 주요 생성형 AI 프레임워크와 AI 추론 모델을 지원하며, 탁월한 실시간 성능을 제공한다. 여기에는 코스모스 리즌(Cosmos Reason), 딥시크(DeepSeek), 라마(Llama), 제미나이(Gemini), 큐원(Qwen) 모델과 함께, 로보틱스 특화 모델인 아이작(Isaac) GR00T N1.5 등이 포함된다. 이를 통해 개발자는 손쉽게 로컬 환경에서 실험과 추론을 실행할 수 있다.

 

엔비디아 젯슨 토르는 다중 센서 입력을 활용한 실시간 추론에서 새로운 가능성을 열어준다.

 

또한 FP4와 스펙큘레이티브 디코딩 최적화를 통해 추가적인 성능 향상이 기대된다.

 

젯슨 토르는 생애 주기 전반에 걸쳐 엔비디아 쿠다(CUDA) 생태계의 지원을 받는다. 따라서 향후 소프트웨어 발표 시 더욱 향상된 처리량과 빠른 응답 속도를 제공하게 될 것으로 기대된다.

 

또한 젯슨 토르 모듈은 전체 엔비디아 AI 소프트웨어 스택을 실행해 사실상 모든 피지컬 AI 워크플로우를 가속화한다. 여기에는 로보틱스를 위한 엔비디아 아이작, 영상 분석 AI 에이전트를 위한 엔비디아 메트로폴리스(Metropolis), 센서 처리를 위한 엔비디아 홀로스캔(Holoscan) 등의 플랫폼이 활용된다.

 

이러한 소프트웨어 도구를 통해 개발자는 다양한 애플리케이션을 손쉽게 구축하고 배포할 수 있다. 실시간 카메라 스트림을 분석해 작업자 안전을 모니터링하는 시각 AI 에이전트, 비정형 환경에서 조작 작업을 수행할 수 있는 휴머노이드 로봇, 다중 카메라 스트림 데이터를 기반으로 외과의에게 안내를 제공하는 스마트 수술실 등이 그 예시이다.

 

연구 혁신을 앞당기는 젯슨 토르

 

스탠퍼드 대학교(Stanford University), 카네기 멜론 대학교(Carnegie Mellon University), 취리히 대학교(University of Zurich)의 연구실들은 젯슨 토르를 활용해 인식, 계획, 내비게이션 모델의 역량을 확장하며 다양한 잠재적 애플리케이션을 탐구하고 있다.

 

카네기 멜론 대학교 로보틱스 연구소(Robotics Institute)의 연구 팀은 엔비디아 젯슨을 활용해 복잡하고 비정형적인 환경을 자율적으로 탐색하며 부상자 분류와 수색, 구조 작업을 수행할 수 있는 로봇을 개발하고 있다.

 

카네기 멜론 대학교의 연구부교수이자 에어랩(AirLab)의 책임자인 세바스찬 쉬어러(Sebastian Scherer)는 “우리는 사용 가능한 컴퓨팅의 범위 내에서만 연구를 할 수 있다. 과거에는 컴퓨터 비전 워크로드가 실시간 의사결정을 내리기에는 너무 느려 컴퓨터 비전과 로보틱스 간의 괴리가 컸다. 그러나 이제는 모델과 컴퓨팅 속도가 충분히 빨라져 로봇이 훨씬 더 정교한 작업을 수행할 수 있게 됐다”고 말했다.

 

쉬어러는 자신의 팀이 보유한 기존 엔비디아 젯슨 AGX 오린 시스템을 젯슨 AGX 토르 개발자 키트로 업그레이드하면 AI 모델의 성능 개선이 가능해질 것으로 전망하고 있다. 이 AI 모델에는 엣지에서 로봇 인식을 수행하는 수준급 MAC-VO 모델이 포함된다. 또한 쉬어러는 이 업그레이드를 통해 센서 융합 역량을 향상시키고 로봇 플릿(fleet) 실험도 가능해질 것으로 기대하고 있다.

 

젯슨 토르의 강력한 성능 활용하기

 

젯슨 토르 제품군에는 개발자 키트와 양산용 모듈이 포함된다. 개발자 키트에는 젯슨 T5000 모듈과 다양한 연결성을 제공하는 레퍼런스 캐리어 보드, 팬이 장착된 액티브 방열판, 전원 공급 장치가 함께 제공된다. 

 

 

 

엔비디아 젯슨 AGX 토르 개발자 키트

 

 

 

젯슨 생태계는 다양한 애플리케이션 요구사항과 고속 산업 자동화 프로토콜, 센서 인터페이스를 지원해 기업 개발자의 시장 출시 시간을 단축한다. 어드밴텍(Advantech), 애티나(Aetina), 커넥트테크(ConnectTech), 미비(MiiVii), 티지텍(TZTEK) 등 하드웨어 파트너들은 다양한 폼팩터로 유연한 I/O와 맞춤형 구성을 갖춰 생산에 준비된 젯슨 토르 시스템을 개발하고 있다.

 

아날로그 디바이스(Analog Devices, Inc., ADI), 이콘 시스템즈(e-con Systems), 인피니언(Infineon), 레오파드 이미징(Leopard Imaging), 리얼센스(RealSense), 센싱(Sensing) 등 센서, 액추에이터(actuator) 업체들은 엔비디아 홀로스캔 센서 브릿지(Sensor Bridge)를 활용하고 있다. 이 플랫폼은 센서 융합과 데이터 스트리밍을 간소화하며, 카메라, 레이더, 라이다 등에서 발생한 센서 데이터를 초저지연으로 젯슨 토르 GPU 메모리에 직접 연결할 수 있게 해준다.

 

수천 개의 소프트웨어 기업들은 젯슨 토르에서 구동되는 다중 AI 에이전트 워크플로우를 통해 기존 비전 AI와 로보틱스 애플리케이션 성능을 향상시킬 수 있다. 주요 도입 기업으로는 오픈제카(Openzeka), 리보트닉스(Rebotnix), 솔로몬(Solomon), 바이디오(Vaidio)가 있다.

 

200만 명 이상의 개발자들은 엔비디아 기술을 활용해 로보틱스 워크플로우를 가속화하고 있다. 젯슨 토르를 활용하고 싶다면 엔비디아 기술 블로그에서 개발자 키트 소개 글을 읽고, 워크스루 영상을 시청할 수 있다.

 

또한 실습 경험을 원한다면 시드 스튜디오(Seeed Studio)와 허깅페이스(Hugging Face)의 르로봇(LeRobot)이 주최하는 해커톤에 참여해볼 수 있다.

 

엔비디아 젯슨 AGX 토르 개발자 키트는 현재 3,499달러부터 구매 가능하며, 엔비디아 젯슨 T5000 모듈은 1,000개 이상 주문 시 개당 2,999달러부터 판매된다. 여기에서 정식 엔비디아 파트너를 통해 구매할 수 있다.

 

한편 엔비디아는 자율주행차와 모빌리티 솔루션 개발 플랫폼을 제공하는 엔비디아 드라이브(DRIVE) AGX 토르 개발자 키트의 사전 주문을 개시했다. 배송은 오는 9월부터 시작될 예정이다.