지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2022.10
- 수록면
- 817 - 826 (10page)
이용수
초록· 키워드
오류제보하기
AI 기술이 여러 분야에 성공적으로 도입되는 추세이며, 서비스로 환경에 배포된 모델들은 지적 재산권과 데이터를 보호하기 위해 모델의 정보를 노출시키지 않는 블랙 박스 상태로 배포된다. 블랙 박스 환경에서 공격자들은 모델출력을 이용해 학습에 쓰인 데이터나 파라미터를 훔치려고 한다. 본 논문은 딥러닝 모델을 대상으로 모델 종류에 대한 정보를 추론하는 공격이 없다는 점에서 착안하여, 모델의 구성 레이어 정보를 직접 알아내기 위해 모델의 종류를 추론하는 공격 방법을 제안한다. MNIST 데이터셋으로 학습된 ResNet, VGGNet, AlexNet과 간단한 컨볼루션 신경망 모델까지 네 가지 모델의 그레이 박스 및 블랙 박스 환경에서의 출력값을 이용해 모델의 종류가 추론될 수 있다는 것을 보였다. 또한 본 논문이 제안하는 방식인 대소 관계 피쳐를 딥러닝 모델에 함께 학습시킨 경우 블랙 박스 환경에서 약 83%의 정확도로 모델의 종류를 추론했으며, 그 결과를 통해 공격자에게 확률 벡터가 아닌 제한된 정보만 제공되는 상황에서도 모델 종류가 추론될 수 있음을 보였다.
목차
요약
ABSTRACT
I. 서론
II. 관련 연구 및 배경지식
III. 제안 방법
IV. 모델 종류 추론 공격 실험
V. 결론
References
참고문헌 (26)
참고문헌 신청
M. Ribeiro, K. Grolinger and M. A. M. Capretz, “MLaaS: Machine Learning as a Service,” 2015 IEEE 14th International Conference on Machine Learning and Applications (ICMLA), pp. 896-902, Dec 2015.
A. Ilyas, L. Engstrom, A. Athalye and J. Lin “Black-box Adversarial Attacks with Limited Queries and Information,” Proceedings of the 35th International Conference on Machine Learning, PMLR vol. 80, pp. 2137-2146, Jul 2018.
K. Ren, T. Zheng, Z. Qin and X. Liu, “Adversarial Attacks and Defenses in Deep Learning,” Engineering vol. 6, no. 3, pp.346-360, March. 2020.
M.Barreno, B. Nelson, A.D..Joseph and J.D. Tygar, “The security of machine learning,” Machine Learning 81, pp.121–148, May. 2010.
A. Oseni, N. Moustafa, H. Janicke, P. Liu, Z. Tari and A. Vasilakos, “Security and Privacy for Artificial Intelligence: Opportunities and Challenges,” arXiv, Feb. 2021.
A. Ilyas, L. Engstrom, A. Athalye and J. Lin “Black-box Adversarial Attacks with Limited Queries and Information,” Proceedings of the 35th International Conference on Machine Learning, PMLR vol. 80, pp. 2137-2146, Jul 2018.
K. Ren, T. Zheng, Z. Qin and X. Liu, “Adversarial Attacks and Defenses in Deep Learning,” Engineering vol. 6, no. 3, pp.346-360, March. 2020.
M.Barreno, B. Nelson, A.D..Joseph and J.D. Tygar, “The security of machine learning,” Machine Learning 81, pp.121–148, May. 2010.
A. Oseni, N. Moustafa, H. Janicke, P. Liu, Z. Tari and A. Vasilakos, “Security and Privacy for Artificial Intelligence: Opportunities and Challenges,” arXiv, Feb. 2021.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
뇌모델
전자공학회지
2018 .11
-
블랙 박스 모델 풀 기반 데이터 증강 및 객체 탐지 성능 향상
대한전자공학회 학술대회
2022 .06
-
기계학습 모델에 대한 멤버십 추론 공격 분석
한국정보과학회 학술발표논문집
2021 .06
-
Black-box Adversarial Attack on Deep Neural Networks for Pneumonia Detection
한국정보과학회 학술발표논문집
2019 .06
-
터보 냉동기의 기계학습 모델과 하이브리드 모델 비교
대한건축학회 학술발표대회 논문집
2018 .04
-
건물 냉난방 운영 분야에서 모델기반 예측제어 연구의 한계점 분석
한국태양에너지학회 학술대회논문집
2023 .11
-
블랙 박스 모델링을 이용한 스티어링 모듈의 모드 해석
대한기계학회 춘추학술대회
2016 .04
-
농작물 이미지 판별 모델에 대한 연구
대한전자공학회 학술대회
2021 .11
-
네트워크 침입 탐지 분야에서 공격 유형 분류를 위한 합성곱 신경망 모델에 대한 연구
한국정보기술학회논문지
2024 .07
-
HLT(Human Load less Technology)를 이용한 박스 분리 공급 장치
대한산업공학회 춘계공동학술대회 논문집
2016 .04
-
Machine Learning based Heating and Cooling Operation for Model-based Predictive Control of Commercial Buildings
한국태양에너지학회 학술대회논문집
2023 .04
-
크라우드 소싱 연합학습 모델 서비스 설계
한국정보과학회 학술발표논문집
2021 .12
-
도커 기반의 빅데이터 분석 환경을 고려한 딥러닝 플랫폼 설계
한국지능시스템학회 논문지
2022 .06
-
설명가능한 인공지능을 활용한 합성곱 신경망 모델의 원 이미지 분류 강건도 분석
한국정보과학회 학술발표논문집
2021 .06
-
AI 기반 NIDS에 대한 모델 종류 추론 공격
정보보호학회논문지
2024 .10
-
시간단위 데이터를 활용한 건물에너지 모델의 파라미터 추론 가능성 연구
한국태양에너지학회 학술대회논문집
2022 .04
-
주기성을 갖는 센서 데이터의 학습 안정성을 위한 하이퍼 파라미터 회귀- 앙상블 학습 방법
한국정보과학회 학술발표논문집
2021 .06
-
모델기반 예측제어의 단순 제어규칙 도출을 위한 Pre-cooling예측 모델 개발
한국태양에너지학회 학술대회논문집
2023 .04
-
부분 구조 모드 합성법이 적용된 블랙박스 모델링 기법을 이용한 해석 모델의 형상 정보 보안 방법 및 검증
한국자동차공학회 추계학술대회 및 전시회
2017 .11
-
기계학습 모델 공격연구 동향: 심층신경망을 중심으로
정보보호학회지
2019 .12
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0