지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2023.8
- 수록면
- 37 - 40 (4page)
- DOI
- 10.5573/ieie.2023.60.8.37
이용수
초록· 키워드
오류제보하기
기존의 양자화는 배치 정규화 레이어를 폴드하므로 정규화 효과를 사용하지 못하여 정확도 감소가 발생한다. 본 논문에서는 이 정확도 저하를 해결하기 위해 양자화 후 학습에 그래디언트 클리핑을 적용하여 안정적인 성능을 이끌어냈으며 각 레이어에 적응적으로 그래디언트 클리핑을 위한 입력값으로 랜덤 클리핑 벡터를 취하는 MLP를 추가한 신경망을 제안한다.
목차
요약
Abstract
Ⅰ. 서론
Ⅱ. 본론
Ⅲ. 실험
Ⅳ. 결론
REFERENCES
참고문헌 (6)
참고문헌 신청
Amir Gholami et al. A Survey of Quantization Methods for Efficient Neural Network Inference, arXiv preprint arXiv:2103.13630.2021
Zhewei Yao et al, HAWQV3: Dyadic Neural Network Quantization. In ICML, 2021.
Andrew Brock et al, High-Performance Large-Scale Image Recognition Without Normalization, arXiv preprint arXiv:2102. 0617.
Christian Simon et al, On Modulating the Gradient for Meta-learning, ECCV, 2020.
Sanghyuck Lee, Seunghyun Lee, and Byung Cheol Song, Contextual Gradient Scaling for Few-Shot Learning, WACV, 2022.
Zhewei Yao et al, HAWQV3: Dyadic Neural Network Quantization. In ICML, 2021.
Andrew Brock et al, High-Performance Large-Scale Image Recognition Without Normalization, arXiv preprint arXiv:2102. 0617.
Christian Simon et al, On Modulating the Gradient for Meta-learning, ECCV, 2020.
Sanghyuck Lee, Seunghyun Lee, and Byung Cheol Song, Contextual Gradient Scaling for Few-Shot Learning, WACV, 2022.
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0102-2023-569-001945219