A new hybrid pruning scheme of a lightweight deep learning for a radar-based foot recognition system

Abstract

This paper proposes a new hybrid pruning scheme, combining structured pruning and unstructured pruning, to lightweight CNN models to quantitatively evaluate their performance. The goal is to recognize foot gestures using radar beat signal, generate STFT unique signatures, and build a foot gesture recognition and classification system that could be implemented on edge devices. The proposed approach demonstrates a reduction in the hybrid pruned model's FLOPs while maintaining classification performance, with a semi- optimized lightweight model size suitable for foot gesture recognition on edge devices.

|본 논문은 CW레이더를 이용하여 풋 제스처를 인식하고 이로 STFT 고유 시그니처를 생성하여 엣지 디바이스에서 인식이 가능한 풋 제스처 인식 분류 시스템을 구축하기 위하여 경량화 CNN 모델들에 대해 Structured pruning NAS과 Unstructured pruning과 Quantization을 적용하여 경량화 성능을 정량 평가하였다. 결과 모델 압축 용량과 FLOPs가 모두 감소하고 Model size가 감소하였으나 정확도가 backbone 네트워크에 비해 크게 떨어지거나 동등한 엣지 디바이스에 탑재가 가능한 풋 제스처 인식에 알맞은 경량화 모델을 확보하였다.

Backbone 모델로는 MobileNetV3, MobileNetV2, EfficientNetb0, 그리고 SqueezeNet을 사용하였다. MobileNetV3 시스템에서, 비구조화된 가지치기는 정확도를 0.94에서 0.918로 약간 감소시키면서 모델 크기를 5.94MB에서 4.48MB로 크게 축소하였다. 구조화된 가지치기는 71M에서 44M으로 FLOP를 줄이고, 모델 크기는 1.05MB로 유지하며, 구조화된 가지치기와 비구조화된 가지치기 및 양자화를 결합한 경우정확도는 44M로 동일하게 유지되고 모델 크기는 1.03MB로 더욱 축소되었다. MobileNetV2의 경우, 비구조화된 가지치기로 모델 크기를 유지하면서 정확도를 0.928로 줄였으며, 모델 크기를 8.74MB에서 6.50MB로 줄였다. 구조화된 가지치기는 0.95의 정확도를 유지하면서 FLOP를 373M에서 160M으로 줄이고 모델 크기는 0.58MB로 크게 줄였다. 구조화된 가지치기와 비구조화된 가지치기 및 양자화를 결합한 경우정확도는 160M에서 동일한 0.936이며, 모델 크기는 0.48MB로 더욱 축소되었다. EfficientNetb0의 경우, 비구조화된 가지치기는 0.946의 정확도를 유지하며 모델 크기도 15.59MB로 유지하였다. 구조화된 가지치기는 27M에서 21M으로 FLOP를 줄이고, 모델 크기는 1.35MB로 크게 줄였으며, 구조화된 가지치기와 비구조화된 가지치기 및 양자화를 결합한 경우 정확도는 21M에서 동일한 0.934이며, 모델 크기는 1.20MB로 더욱 축소되었다. SqueezeNet의 경우, 비구조화된 가지치기는 모델 크기가 줄어들면서 정확도를 유지하였다. 구조화된 가지치기는 287M에서 170M로 FLOP를 크게 줄이고 모델 크기는 0.47MB로 크게 줄였으며, 구조화된 가지치기와 비구조화된 가지치기 및 양자화를 결합한 경우 정확도는 170M에서 동일한 0.922이며, 모델 크기는 동일한 0.47MB로 유지되었다. 이 논문은 경량화 CNN 모델을 사용하여 CW 레이더 데이터의 효과적인 처리를 시연하였으며, 모델 FLOP와 크기를 효과적으로 줄이기 위해 발동작 인식을 위한 하이브리드 가지치기 방법을 제안하였으며, 엣지 디바이스에 탑재 알맞은 모델을 넣을 수 있는 방법론을 보였다.