지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.10
- 수록면
- 35 - 45 (11page)
이용수
초록· 키워드
오류제보하기
본 연구에서는 모델의 경량화를 위해 교사 모델의 출력 특징맵에서 3D 객체의 정보를 추출해 학생 모델의 다중 스케일 특징맵(Multi-scale feature map)에 맞게 증류하는 3D 객체 검출용 다중스케일 특징 지식 증류 기법인 M3KD (Multi-Scale Feature Knowledge Distillation for 3D Object Detection)를 제안한다. M3KD는 지식 증류 수행 시 학생 모델과 교사 모델의 다중 스케일 특징맵들 간 L2 손실(loss)을 사용해 특징맵 값의 차이를 줄이게 함으로써 학생 모델이 교사 모델의 백본을 모방하게 하여 학생 모델의 전체적인 정확도를 향상시키고, 기존의 이미지 분류 태스크(Task)에서 사용하는 클래스 로짓(Logits) 지식 증류를 적용해 교사 모델의 클래스 분류 로짓을 모방함으로써 학생 모델의 검출 정확도를 향상시킨다. 본 연구가 제안한 M3KD의 효과를 증명하기 위해 KITTI (Karlsruhe Institute of Technology and Toyota Technological Institute) 데이터 셋에서 실험을 진행하였으며, 이때 학습한 학생 모델이 교사 모델 대비 30%의 추론 속도 향상을 달성하였다. 또한, 정확도에서 기존의 학생 모델과 비교시 모든 클래스 및 모든 난이도에서 평균적으로 1.08%의 3D mAP (Mean Average Precision) 향상이 있음을 확인하였다. 또한 최신 지식 증류 기법인 PKD, SemCKD에 제안하는 기법을 추가로 적용하였을 시 기존 대비 0.42%, 0.52% 높은 정확도(3D mAP)를 나타내 성능 향상을 달성하였다.
목차
Abstract
요약
I. Introduction
II. Related Works
III. Methodology
IV. Experiments
V. Conclusion
REFERENCES
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
모델 내부/외부 특징량 상관 학습을 통한 지식 증류
한국컴퓨터정보학회논문지
2023 .04
-
교사 답변 엔트로피 기반 적응적 지식 증류
한국지능시스템학회 논문지
2024 .12
-
이질적 지식증류를 활용한 텍스트 분류 방법론
한국컴퓨터정보학회논문지
2022 .10
-
자가 지식 증류 기법을 적용한 객체 검출 기법의 성능 분석
한국방송미디어공학회 학술발표대회 논문집
2022 .11
-
대조 학습 기반 자가증류를 이용한 단일 영상 초해상화 모델 경량화 기법
방송공학회논문지
2023 .11
-
비최대 억제를 통한 밀집 객체 검출을 위한 지식 저장 증류
전자공학회논문지
2025 .01
-
초해상화 모델 경량화를 위한 지식 증류 방법의 비교 연구
융합신호처리학회 논문지
2023 .03
-
지식 증류 기법 별 교사와 학생 간 강건성 상호 관계
한국정보과학회 학술발표논문집
2024 .06
-
객체 검출에서의 이질적 지식 증류 기법에 대한 연구 동향 조사
대한전자공학회 학술대회
2024 .06
-
Conditional Knowledge Distillation for Model Specialization
Journal of KIISE
2021 .04
-
지식의 분포 특성을 활용한 지식 증류
정보 및 제어 논문집
2021 .04
-
지식의 증류기법을 이용한 샷 경계 검출 모델
한국방송미디어공학회 학술발표대회 논문집
2019 .06
-
딥러닝 기반 자율주행 애플리케이션의 경량화를 위한 예습을 통한 지식 증류 기법
한국자동차공학회 추계학술대회 및 전시회
2022 .11
-
지식증류를 통한 딥러닝 기반 정지영상 압축 모델의 성능 향상에 관한 연구
대한전자공학회 학술대회
2022 .06
-
실시간 3차원 객체 검출을 위한 포인트 클라우드 기반 딥러닝 모델 경량화
한국정보통신학회논문지
2022 .09
-
지식증류기법을 적용한 드론의 경량화 사람 탐지 모델
한국정보과학회 학술발표논문집
2023 .06
-
오픈 도메인 질의응답을 위한 Dense Text Retrieval에서의 Teacher-free self-training 지식 증류 기법의 효과
정보과학회 컴퓨팅의 실제 논문지
2023 .12
-
다변량 시계열 데이터에서 이상 탐지를 위한 지식 증류
한국정보과학회 학술발표논문집
2021 .06
-
맥락화 능력 모방을 통한 과제 적합 지식 추출
한국정보과학회 학술발표논문집
2021 .12
-
마스크 기반 특징 맵 교환을 통한 객체 검출기 지식 증류
방송공학회논문지
2023 .07
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-151-25-02-090992527