지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2023.3
- 수록면
- 43 - 52 (10page)
- DOI
- 10.5573/ieie.2023.60.3.43
이용수
초록· 키워드
오류제보하기
최근 높은 정확도를 제공하는 CNN 모델을 자율주행자동차, 스마트 폰, 드론 등과 같은 임베디드 시스템에 탑재하려는 요구가 증가하면서 네트워크 경량화에 대한 관심이 급증하고 있다. 경량화 방법 중 네트워크에서 불필요한 채널 또는 필터를 찾아 제거하는 채널 가지치기가 가장 많이 활용되고 있다. 기존에 적용되는 채널 가지치기 방법은 채널의 중요도를 판단할 때 전 계층에 대해 단 하나의 임계값을 사용한다. 본 논문은 CNN 모델이 다수의 계층들이 종속 연결되어 계층적 구조를 이루고 있다는 것을 고려하여 고유차원이라는 개념을 도입하고 계층마다 필요한 채널의 수를 추정하여 이를 기반으로 계층마다 다르게 채널 가지치기를 수행하는 새로운 방법을 제안한다. 제안 방법은 객체탐지 모델 중 정확도와 추론속도 측면에서 우수한 YOLOv4에 적용하였으며, PASCAL VOC 데이터 셋과 VisDrone 데이터 셋을 사용하여 제안 방법을 평가하였다. 실험결과에서 VOC 데이터와 VisDrone 데이터(가지치기 비율 70%는 제외) 셋 모두에 대해 제안방법이 기존의 전역적 방법보다 우수하다는 것이 입증되었다.
목차
요약
Abstract
Ⅰ. 서론
Ⅱ. 관련 연구
Ⅲ. 고유 차원(Intrinsic dimensionality)
Ⅳ. 제안된 가지치기 방법
Ⅴ. 실험 결과
Ⅵ. 결론
REFERENCES
참고문헌 (18)
참고문헌 신청
Y. J. Lee, Y. H. Moon, J. Y. Park, and O. G. Min, “Recent R&D Trends for Lightweight Deep Learning,” 2019 Electronics and Telecommunications Trends, vol. 34, no. 2, pp. 40-50, Apr. 2019.
Z. Liu, J. Li, Z. Shen, G. Huan, S. Yan, and C. Zhang, “Learning Efficient Convolutional Networks through Network Slimming,” 2017 IEEE International Conference on Computer Vision (ICCV), pp. 2755-2763, Venice, Italy, Oct. 2017.
H. Li, A. Kadav, I. Durdanovic, H. Samet, and H. P. Graf, “Pruning Filters for Efficient ConvNets,” International Conference on Learning Representation (ICLR 2017), Toulon, France, Apr. 2017.
S. Han, J. Pool, J. Tran, and W. J. Dally, “Learning both Weights and Connections for Efficient Neural Networks,” Proceedings of the 28th International Conference on Neural Information Processing Systems (NIPS), vol. 1, pp. 1135-1143, Montreal, Canada, De
L. Deng, G. Li, S. Han, L. Shi and Y. Xie, “Model Compression and Hardware Acceleration for Neural Networks: A Comprehensive Survey,” in Proceedings of the IEEE, vol. 108, no. 4, pp. 485-532, April 2020.
Z. Liu, J. Li, Z. Shen, G. Huan, S. Yan, and C. Zhang, “Learning Efficient Convolutional Networks through Network Slimming,” 2017 IEEE International Conference on Computer Vision (ICCV), pp. 2755-2763, Venice, Italy, Oct. 2017.
H. Li, A. Kadav, I. Durdanovic, H. Samet, and H. P. Graf, “Pruning Filters for Efficient ConvNets,” International Conference on Learning Representation (ICLR 2017), Toulon, France, Apr. 2017.
S. Han, J. Pool, J. Tran, and W. J. Dally, “Learning both Weights and Connections for Efficient Neural Networks,” Proceedings of the 28th International Conference on Neural Information Processing Systems (NIPS), vol. 1, pp. 1135-1143, Montreal, Canada, De
L. Deng, G. Li, S. Han, L. Shi and Y. Xie, “Model Compression and Hardware Acceleration for Neural Networks: A Comprehensive Survey,” in Proceedings of the IEEE, vol. 108, no. 4, pp. 485-532, April 2020.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
CNN의 유사 채널 가지치기 알고리즘
한국정보과학회 학술발표논문집
2021 .12
-
임베디드 시스템에서의 객체 탐지 네트워크 추론 가속을 위한 필터 가지치기 기법 연구
전자공학회논문지
2022 .03
-
합성곱 신경망 모델의 가지치기 알고리즘 분석 기법
한국정보과학회 학술발표논문집
2022 .06
-
뉴럴 네트워크 채널 Pruning을 통한 Inference 성능 변화 분석 및 최적화
한국정보과학회 학술발표논문집
2020 .07
-
정보집약적인 동작 상상 뇌파 분류를 위한 Layer-wise Relevance Propagation 기반 채널 가지치기
한국정보과학회 학술발표논문집
2024 .06
-
효율적인 영상분할을 위한 가지치기 기법
한국정보과학회 학술발표논문집
2024 .12
-
인공신경망의 효율적 노드 사후 가지치기
정보과학회 컴퓨팅의 실제 논문지
2022 .03
-
딥 뉴럴 네트웨크에서 Data Sparsity 향상 방법
대한전자공학회 학술대회
2018 .06
-
불순도 기반 딥러닝 CNN 모델 최적 가지치기 레이어 검출 방법
대한전자공학회 학술대회
2022 .06
-
작은 물체 검출 성능 향상을 위한 YOLOv4 개선
한국자동차공학회 춘계학술대회
2022 .06
-
3 차원 장면 그래프 생성 모델에 대한 비구조적 가지치기 적용 사례 연구
한국방송미디어공학회 학술발표대회 논문집
2024 .06
-
A Study of Structured Pruning for Hybrid Neural Networks
제어로봇시스템학회 국제학술대회 논문집
2024 .10
-
상호정보량 기반 가지치기 기법을 이용한 네트워크 트래픽 이상탐지
한국통신학회 학술대회논문집
2023 .06
-
Two-stage Detection with Yolov5 based on Structured Neural Network Pruning
한국재활복지공학회 학술대회 논문집
2021 .11
-
5G/6G 통신 채널 특성 및 채널 모델 분석
한국통신학회 학술대회논문집
2020 .02
-
의사 결정 나무 기반 가지치기 기법을 활용한 데이터 세트 내 편향 제거 시스템
한국정보과학회 학술발표논문집
2024 .06
-
하위 차원 투영에 기반한 한국어 대규모 언어 모델 가지치기
한국정보과학회 학술발표논문집
2024 .06
-
커널 프루닝을 위한 필터 프루닝 기반의 레이어 민감도 측정 기법
대한전자공학회 학술대회
2021 .06
-
Efficient Performance Prediction via Regression for Joint Channel and Weight Pruning
제어로봇시스템학회 국제학술대회 논문집
2024 .10
-
Pruning 기반 알고리즘 경량화 기법의 성능 최적화 연구 동향
대한전자공학회 학술대회
2024 .11
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0