지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2021.8
- 수록면
- 318 - 322 (5page)
- DOI
- 10.5391/JKIIS.2021.31.4.318
이용수
초록· 키워드
오류제보하기
기존의 연합학습 방법론들은 중앙 서버가 학습에 참여하는 모든 로컬 클라이언트 모델의 파라미터들을 일괄적으로 통합하는 방식으로 글로벌 모델을 업데이트 하기 때문에, Non-Independent Identically Distributed (Non-IID) 환경에서 치명적인 성능 저하가 일어난다. 본 논문에서는 첫 번째 Communication round 시 각 로컬 클라이언트 내에서 충분히 수렴된 모델들로 교차성능평가를 통해 학습에 방해되는 로컬 클라이언트를 제거해나가는 CE-method(Cross Elimination method)를 제안한다. 또한, 기존 연구들에서 통일되어있지 않은 Non-IID 환경을 정의하였다. CE-method는 중앙 서버가 로컬 클라이언트의 데이터에 직접 접근하지 않고도 학습에 방해되는 로컬 클라이언트를 제거함으로써 보다 효과적이고 효율적인 연합학습을 할 수 있도록 한다. 실험 결과 CE-method를 적용한 연합학습 알고리즘은 MNIST, FashionMNIST, SVHN, CIFAR-10 이미지 분류 task에 대해 기존 대비 높은 정확도와 Communication round 단축을 보장한다.
목차
요약
Abstract
1. 서론
2. 관련 연구
3. 제안 기법
4. 실험 환경 및 결과
5. 결론 및 향후 연구
References
참고문헌 (14)
참고문헌 신청
Jong-Su Park, Tae-Yun Chung, “Design and Implementation of IoT Distributed File System with Secret Sharing Scheme Technology”, Journal of The Korean Institute of Intelligent Systems, vol. 29, no. 5, pp. 371-378, 2019.
Seungwhoun Kim, Sunghae Jun, “Data De-identification using Autoencoder”, Journal of The Korean Institute of Intelligent Systems, vol. 30, no. 3, pp. 228-235, 2020.
Mann Soo Hong, Seok-Kyu Kang, Jee-Hyong Lee, “Removing Out-of-Distribution Clients on Federated Model”, Journal of The Korean Institute of Intelligent Systems, vol. 30, no. 6, pp. 488-493, 2020.
H. Brendan McMahan, Eider Moore, Daniel Ramage, Seth Hampson, Blaise Ag era y Arcas, “Communication-efficient learning of deep networks from decentralized data,” arXiv:1602.05629, 2016.
Sai Praneeth Karimireddy, Satyen Kale, Mehryar Mohri, Sashank Reddi, Sebastian Stich, and Ananda Theertha Suresh. "SCAFFOLD: Stochastic Controlled Averaging For Federated Learning.", International Conference on Machine Learning, vol. 119, pp. 5132-5143, 2020.
Seungwhoun Kim, Sunghae Jun, “Data De-identification using Autoencoder”, Journal of The Korean Institute of Intelligent Systems, vol. 30, no. 3, pp. 228-235, 2020.
Mann Soo Hong, Seok-Kyu Kang, Jee-Hyong Lee, “Removing Out-of-Distribution Clients on Federated Model”, Journal of The Korean Institute of Intelligent Systems, vol. 30, no. 6, pp. 488-493, 2020.
H. Brendan McMahan, Eider Moore, Daniel Ramage, Seth Hampson, Blaise Ag era y Arcas, “Communication-efficient learning of deep networks from decentralized data,” arXiv:1602.05629, 2016.
Sai Praneeth Karimireddy, Satyen Kale, Mehryar Mohri, Sashank Reddi, Sebastian Stich, and Ananda Theertha Suresh. "SCAFFOLD: Stochastic Controlled Averaging For Federated Learning.", International Conference on Machine Learning, vol. 119, pp. 5132-5143, 2020.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
정확도 기반 참여 제한 연합학습 연구
한국정보기술학회논문지
2023 .12
-
Non-IID 환경에서 연합학습 성능 분석 연구
대한전자공학회 학술대회
2024 .06
-
Federated Random Forest on Non-IID Data
정보과학회 컴퓨팅의 실제 논문지
2024 .08
-
NoN-IID MNIST 데이터의 연합학습 연구
한국컴퓨터정보학회 학술발표논문집
2023 .07
-
Non-IID 데이터 환경에서의 적응적 연합학습 기법
한국통신학회논문지
2024 .08
-
연합학습 시 글로벌 모델 성능 향상을 위한 기여도 기반 집계 알고리즘
한국정보기술학회논문지
2023 .12
-
로컬 모델 검증을 통한 가중치 부여 연합학습 프레임워크 설계
한국컴퓨터정보학회논문지
2022 .11
-
Non-IID 데이터를 활용한 개인화 연합학습 기반 실내 측위
한국통신학회 학술대회논문집
2021 .06
-
연합학습에서 공정한 훈련을 위한 클라이언트 훈련 규모 조율 방법
Proceedings of KIIT Conference
2023 .11
-
Non-IID 환경 및 개인화 모델을 고려한 연합학습 알고리즘에 대한 연구
Proceedings of KIIT Conference
2023 .06
-
인센티브 메커니즘 기반 Non-IID 사용자를 위한 프라이버시 보호 연합학습
한국통신학회 학술대회논문집
2022 .11
-
통계적 이질성 문제 해결을 위한 데이터 분포 추정 기반 확률적 샘플링 기법을 적용한 연합학습 구현
한국통신학회논문지
2021 .11
-
Non-IID 데이터에 대한 선택적 데이터 수집 기반 연합 학습 알고리즘
한국정보과학회 학술발표논문집
2022 .06
-
연합학습의 Non-IID 문제 개선을 위한 생성모델 적용 방안
한국통신학회 학술대회논문집
2025 .02
-
Flower 을 사용한 점진적 연합학습시스템 구성
JOURNAL OF PLATFORM TECHNOLOGY
2023 .08
-
Non-IID 데이터 분포를 가진 클라이언트의 NOMA-SIC 통합 연합학습 성능 평가
한국통신학회 학술대회논문집
2024 .11
-
Non-IID 문제 극복을 위한 양자 연합 학습 알고리즘 연구 동향
한국통신학회 학술대회논문집
2025 .02
-
데이터 중독 공격 방어를 위한 신뢰도 점수 기반 연합학습
디지털콘텐츠학회논문지
2023 .06
-
모델 발산을 억제하는 연합학습 프레임워크
한국지능시스템학회 논문지
2022 .12
-
Non-IID 데이터 분포 환경에서 계층적 연합 학습을 위한 에지 서버 설치 전략 연구
한국통신학회 학술대회논문집
2022 .06
이 논문의 저자 정보
이 논문과 함께 이용한 논문
통계적 이질성 문제 해결을 위한 데이터 분포 추정 기반 확률적 샘플링 기법을 적용한 연합학습 구현
김선욱
,
이현수
,
방준일
외 2명
한국통신학회논문지
2021
.11
연합학습(Federated Learning) 네트워크에서의 형평성 보장 기법에 관한 연구
김영찬
,
김훈
한국통신학회논문지
2023
.06
Flower 연합학습 프레임워크를 활용한 통신 상황에 따른 학습 성능 평가 연구
최동진
,
김준우
,
이웅희
한국통신학회 학술대회논문집
2021
.11
그래디언트 기반 재복원공격을 활용한 배치상황에서의 연합학습 프라이버시 침해연구
장진혁
,
류권상
,
최대선
정보보호학회논문지
2021
.10
연합학습 프레임워크 분석
최영환
,
고범수
,
김태홍
한국정보과학회 학술발표논문집
2021
.06
최근 본 자료
댓글(0)
0