지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학위논문
- 저자정보
- 지도교수
- 한태희
- 발행연도
- 2021
- 저작권
- 성균관대학교 논문은 저작권에 의해 보호받습니다.
이용수9
이 논문의 연구 히스토리 (2)
- 이 논문의 후속연구가 궁금하신가요?
- 연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
- 이 논문의 연구 히스토리 확인하기
초록· 키워드
오류제보하기
심층 신경망(Deep neural networks, DNNs)은 이미지 분류 및 컴퓨터 비전 등 다양한 응용 분야에서 활용되고 있다. 하지만 신경망의 심도 및 복잡성이 증가함에 따라 자원이 제한된 임베디드 시스템에서 심층 신경망 구현의 한계가 발생하고 있으며 이를 극복하기 위한 경량화 연구가 진행되고 있다. 이를 위해 신경망 파라미터의 정밀도를 감소시켜 모델을 압축하는 양자화(Quantization) 기법과 대규모 네트워크의 학습 데이터를 이용하여 소규모 네트워크를 훈련시키는 지식 증류(Knowledge distillation, KD) 기법이 등장하였다. 본 논문에서는 신경망 모델의 계산 복잡도와 스토리지 사용량을 최적화하기 위해 지식 증류에 양자화 기법을 접목시켜 데이터마다 정밀도를 개별적으로 처리하는 적응적 양자화 기반 지식 증류 기법을 제안한다. CIFAR10과 CIFAR100 데이터 셋에 대해 ResNet 모델로 실험한 결과, 제안하는 기법은 양자화 기법 대비 정확도가 증가했으며, 경량화를 진행하지 않은 모델 대비 신경망 모델 크기가 평균 69.29% 감소하였다.
목차
제1장 서 론 11. 연구 배경 12. 논문의 구성 3제2장 관련 연구 41. 신경망 경량화 연구 42. 양자화 (Quantization) 83. 지식 증류 (Knowledge distillation) 10제3장 제안하는 적응적 양자화 기반의 지식 증류 121. 기존 양자화 기법의 문제점 122. 제안하는 적응적 양자화 143. 적응적 양자화 기반의 지식 증류 15제4장 실험 및 분석 18제5장 결 론 23참 고 문 헌 24Abstract 28
최근 본 자료
댓글(0)
0