엔비디아(www.nvidia.co.kr)가 기업들의 에이전틱AI ( Agentic AI) 구축을 위해 각종 도구와 소프트웨어를 제공하고 있다고 밝혔다.

 

AI 챗봇은 생성형 AI를 사용해 단일 상호작용을 기반으로 응답을 제공한다. 사람이 질문을 하면 챗봇은 자연어 처리를 통해 답변을 제공하는 방식이다.

 

인공지능의 다음 영역은 에이전틱 AI로, 정교한 추론과 반복적인 계획을 사용해 복잡한 다단계 문제를 자율적으로 해결한다. 이는 산업 전반의 생산성과 운영을 향상시킬 것으로 기대된다.

 

에이전틱 AI 시스템은 여러 출처로부터 방대한 양의 데이터를 수집해 독립적으로 문제를 분석하고 전략을 개발한다. 또한, 공급망 최적화, 사이버 보안 취약성 분석, 의사들의 시간 소모적인 업무를 돕는 작업 등을 수행한다.

 

에이전틱 AI 작동 프로세스

 

에이전틱 AI는 문제 해결을 위해 4단계 프로세스를 사용한다.

 

인식(Perceive): AI 에이전트는 센서, 데이터베이스, 디지털 인터페이스 등 다양한 출처에서 데이터를 수집하고 처리한다. 여기에는 의미 있는 특징을 추출하고, 객체를 인식하거나, 환경 내 관련 개체를 식별하는 작업이 포함된다.

추론(Reason): 거대 언어 모델(Large Language Model, LLM)은 작업을 이해하고, 솔루션을 생성하며, 콘텐츠 제작, 비전 처리, 추천 시스템과 같은 특정 기능을 위한 전문 모델을 조율하는 역할을 하는 추론 엔진의 역할을 한다. 이 단계에서는 검색 증강 생성(retrieval-augmented generation, RAG)과 같은 기술을 사용해 독점 데이터 소스에 접근하고 정확하고 관련성 있는 출력을 제공한다.

행동(Act): 에이전틱 AI는 애플리케이션 프로그래밍 인터페이스(API)를 통해 외부 도구, 소프트웨어와 통합함으로써 수립한 계획에 따라 작업을 신속하게 실행할 수 있다. 또한, AI 에이전트가 작업을 올바르게 실행할 수 있도록 가드레일을 설정할 수 있다. 예를 들어, 고객 서비스 AI 에이전트는 특정 금액까지만 클레임을 처리할 수 있고, 그 금액을 초과하는 클레임은 사람의 승인이 필요할 수 있다.

학습(Learn): 에이전틱 AI는 피드백 루프 혹은 상호작용에서 생성된 데이터를 시스템에 공급해 모델을 개선하는 '데이터 플라이휠(data flywheel)'을 통해 지속적으로 개선된다. 시간에 따라 적응하고 더욱 효과적으로 발전하는 이러한 능력은 비즈니스에 더 나은 의사 결정과 운영 효율성을 촉진하는 강력한 도구를 제공한다.

 

에이전틱 AI 작동 프로세스

 

 

기업 데이터를 통해 에이전틱 AI 강화하기

 

생성형 AI는 산업과 직무 전반에 걸쳐 방대한 양의 데이터를 실행 가능한 지식으로 전환해 조직을 변혁시키고, 직원들이 더 효율적으로 일할 수 있도록 지원한다.

 

AI 에이전트는 가속화된 AI 쿼리 엔진을 통해 다양한 데이터에 접근해 정보를 처리, 저장, 검색해 생성형 AI 모델을 향상시킴으로써 이러한 잠재력을 구축한다. 이를 달성하기 위한 핵심 기술은 RAG로, AI가 더 광범위한 데이터 소스를 활용할 수 있게 해준다.

 

시간이 지남에 따라 AI 에이전트는 상호작용을 통해 생성된 데이터를 시스템에 피드백해 데이터 플라이휠을 생성함으로써 학습하고 개선된다. 이 과정은 모델을 정제하고 효과성을 높이는 데 기여한다.

 

엔비디아 네모(NeMo) 마이크로서비스를 포함한 엔드투엔드 엔비디아 AI 플랫폼은 데이터를 효율적으로 관리하고 접근할 수 있는 기능을 제공한다. 이는 반응형 에이전틱 AI 애플리케이션을 구축하는 데 매우 중요한 요소이다.

 

 

에이전틱 AI의 활용 사례

 

에이전틱 AI의 잠재적 활용 분야는 방대하며, 창의성과 전문성에 따라 제한된다. 콘텐츠 생성과 배포 같은 간단한 작업부터 엔터프라이즈 소프트웨어 조율과 같은 보다 복잡한 사용 사례에 이르기까지, AI 에이전트는 산업을 혁신하고 있다.

 

 

에이전틱 AI 활용 분야

 

고객 서비스: AI 에이전트는 셀프 서비스 기능을 강화하고 일상적인 커뮤니케이션을 자동화해 고객 지원을 개선하고 있다. 서비스 전문가의 절반 이상이 고객과의 상호작용이 크게 개선돼 응답 시간이 단축되고 만족도가 높아졌다고 답했다.

 

아울러 디지털 휴먼에 대한 관심도 높아지고 있다. 이는 기업의 브랜드를 구현하고 사실감 있는 실시간 상호작용을 제공해 판매 담당자의 고객 문의 답변을 돕거나 통화량이 많을 때 문제를 직접 해결할 수 있도록 지원하는 AI 기반 에이전트이다.

 

콘텐츠 제작: 에이전틱 AI는 고품질의 개인화된 마케팅 콘텐츠를 신속하게 제작할 수 있도록 지원한다. 생성형 AI 에이전트를 사용하면 마케터는 콘텐츠당 평균 3시간을 절약할 수 있어 전략과 혁신에 집중할 수 있다. 콘텐츠 제작을 간소화함으로써 기업은 경쟁력을 유지하면서 고객 참여를 향상시킬 수 있다.

 

소프트웨어 엔지니어링: AI 에이전트는 반복적인 코딩 작업을 자동화해 개발자의 생산성을 향상시킨다. 2030년까지 AI는 업무 시간의 최대 30%를 자동화해 개발자가 더 복잡한 과제에 집중하고 혁신을 주도할 수 있는 환경을 제공할 것이다.

 

의료: 방대한 양의 의료와 환자 데이터를 분석하는 의사들에게 AI 에이전트는 중요한 정보를 추출하며 더 나은 정보에 기반한 진료 결정을 내릴 수 있도록 한다. 행정 작업을 자동화하고 환자 진료 시 임상 기록을 기록해 시간이 많이 소요되는 작업의 부담을 줄여 의사는 환자와의 관계를 발전시키는 데 집중할 수 있다.

 

또한 AI 에이전트는 연중무휴 24시간 지원을 제공할 수 있고, 처방된 약물 사용법, 예약 일정, 알림 등을 제공해 환자가 치료 계획을 준수하도록 돕는다.

 

에이전틱 AI 시작하기

 

다양한 도구와 소프트웨어와 상호작용하며 계획할 수 있는 에이전틱 AI는 인공지능의 다음 장을 열며 생산성을 향상하고 조직의 운영 방식을 혁신할 수 있는 잠재력을 제공한다.

 

생성형 AI 기반 애플리케이션과 에이전트의 채택을 가속화하기 위해 엔비디아 NIM 에이전트 블루프린트(NIM Agent Blueprint)는 샘플 애플리케이션, 참조 코드, 샘플 데이터, 툴, 종합 설명서를 제공한다.

 

액센츄어(Accenture)를 비롯한 엔비디아 파트너는 NIM 에이전트 블루프린트로 구축된 솔루션으로 기업이 에이전틱 AI를 사용할 수 있도록 지원하고 있다.