서울대학교 공과대학 컴퓨터공학부 강유 교수 / 사진. 서울대

서울대학교 공과대학 컴퓨터공학부 강유 교수팀이 학습 데이터 없이도 딥러닝 모델의 성능을 유지하며 경량화할 수 있는 인공지능 기술을 개발했다고 4월 14일(월) 밝혔다. 이번 연구 성과는 AI 학술대회 중 하나인 ‘ICLR 2025’에 논문으로 채택됐다.

강 교수팀이 개발한 기술은 ‘제로샷 양자화(Zero-shot Quantization, 이하 ZSQ)’ 방식의 한계를 극복한 ‘SynQ(Synthesis-aware Fine-tuning for Zero-shot Quantization)’ 기법이다. ZSQ는 학습 데이터가 없어도 모델을 압축하는 기술로 주목받고 있지만, 기존 방식은 합성 데이터의 노이즈나 잘못된 하드 레이블(Hard Label) 적용 등으로 인해 모델 성능 저하 문제가 있었다.

반면, SynQ는 ▲데이터 고주파 노이즈 제거를 위한 저역 통과 필터(low-pass filter) 적용 ▲사전 학습된 모델과 양자화된 모델 사이의 클래스 활성화 맵(Class Activation Map, CAM) 정렬 ▲어려운 샘플에 대해 하드 레이블 대신 소프트 레이블(Soft Label) 적용 등의 방식으로 기존 한계를 보완했다. 연구진은 이 기법을 통해 실제 데이터가 없는 상황에서도 딥러닝 모델의 성능을 효과적으로 유지하며 경량화를 달성하는 데 성공했다.

이 기술은 향후 자원이 제한된 엣지 디바이스 환경에서 고성능 AI의 활용 가능성을 대폭 확대할 전망이다. 특히 스마트폰, IoT 기기, 자율주행 센서 등에 있어 학습 데이터 없이도 모델을 안정적으로 압축할 수 있어, AI 산업 전반의 접근성과 보안성을 동시에 확보할 수 있는 기반 기술로 평가된다.

서울대학교 강유 컴퓨터공학부 교수는 “SynQ 기술은 개인 데이터 유출 없이 모델을 경량화할 수 있는 강점 덕분에 보안 및 프라이버시 침해 문제를 줄이는 데 기여할 수 있다”라고 강조하며 “나아가 이 기법을 적용하면 그간 대량의 학습 데이터에 접근하기 어려웠던 소규모 기업 및 기관도 고성능 AI를 손쉽게 활용할 수 있기 때문에, 다양한 분야에서 AI 기술 확산 및 대중화가 가속할 것으로 기대된다”라고 밝혔다.