지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2023.12
- 수록면
- 1,111 - 1,123 (13page)
이용수
이 논문의 연구 히스토리 (2)
- 이 논문의 후속연구가 궁금하신가요?
- 연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
- 이 논문의 연구 히스토리 확인하기
초록· 키워드
오류제보하기
최근 생성 모델이 발전함에 따라 생성 모델을 위협하는 연구도 활발히 진행되고 있다. 본 논문은 Text-to-Image 모델에 대한 멤버십 추론 공격을 위한 새로운 제안 방법을 소개한다. 기존의 Text-to-Image 모델에 대한 멤버십 추론 공격은 쿼리 이미지의 caption으로 단일 이미지를 생성하여 멤버십을 추론하였다. 반면, 본 논문은 Textual Inversion을 통해 쿼리 이미지에 personalization된 임베딩을 사용하고, Adversarial Prompt 생성 방법으로 여러 장의 이미지를 효과적으로 생성하는 멤버십 추론 공격을 제안한다. 또한, Text-to-Image 모델 중 주목받고 있는 Stable Diffusion 모델에 대한 멤버십 추론 공격을 최초로 진행하였으며, 최대 1.00의 Accuracy를 달성한다.
목차
요약
ABSTRACT
I. 서론
II. 배경 및 관련 연구
III. Textual Inversion을 활용한 Adversarial Prompt 생성 기반 Text-to-Image 모델에 대한 멤버십 추론 공격
IV. 실험 및 결과
V. 결론
References
참고문헌 (21)
참고문헌 신청
Y. Wu, N. Yu, Z. Li, M. Backes, and Y. Zhang, “Membership inference attacks against text-to-image generation models,” arXiv preprint arXiv:2210.00968, Oct. 2022.
R. Rombach, A. Blattmann, D. Lorenz, P. Esser, and B. Ommer, “High-resolution image synthesis with latent diffusion models,” In Proceedings of the IEEE/CVF Conference on Computer vision and Pattern Recognition, pp. 10684-10695, Jun. 2022.
A. Ramesh, P. Dhariwal, A. Nichol, C. Chu, and M. Chen, “Hierarchical text-conditional image generation with clip latents,” arXiv preprint arXiv:2204.06125, 1(2), Apr. 2022.
J. Hayes, L. Melis, G. Danezis, and E.D. Cristofaro, “LOGAN: Membership inference attacks against generative models,” arXiv preprint arXiv:1705.07663, May. 2017.
K.S. Liu, C. Xiao, B. Li, and J. Gao, “Performing co-membership attacks against deep generative models,” In Proceedings of the 19th IEEE International Conference on Data Mining, pp. 459-467, Nov. 2019.
R. Rombach, A. Blattmann, D. Lorenz, P. Esser, and B. Ommer, “High-resolution image synthesis with latent diffusion models,” In Proceedings of the IEEE/CVF Conference on Computer vision and Pattern Recognition, pp. 10684-10695, Jun. 2022.
A. Ramesh, P. Dhariwal, A. Nichol, C. Chu, and M. Chen, “Hierarchical text-conditional image generation with clip latents,” arXiv preprint arXiv:2204.06125, 1(2), Apr. 2022.
J. Hayes, L. Melis, G. Danezis, and E.D. Cristofaro, “LOGAN: Membership inference attacks against generative models,” arXiv preprint arXiv:1705.07663, May. 2017.
K.S. Liu, C. Xiao, B. Li, and J. Gao, “Performing co-membership attacks against deep generative models,” In Proceedings of the 19th IEEE International Conference on Data Mining, pp. 459-467, Nov. 2019.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Diffusion 기반 Text-to-Image모델의 이미지 역변환에 관한 연구
한국통신학회 인공지능 학술대회 논문집
2024 .09
-
기계학습 모델에 대한 멤버십 추론 공격 분석
한국정보과학회 학술발표논문집
2021 .06
-
프롬프트 형 기반 Text-to-Image 생성 모델 비교연구
한국정보과학회 학술발표논문집
2023 .06
-
생성형 모델 기반 이미지 변환 성능 향상을 위한 프롬프트 자동화 연구
멀티미디어학회논문지
2025 .02
-
최신 Text-to-Image 생성 모델의 동향
정보과학회지
2022 .12
-
일관성 있는 이야기 삽화 생성을 위한 Text-to-image 생성 모델 활용 연구
방송공학회논문지
2024 .11
-
텍스트 기반 이미지 생성 모델로 생성된 이미지의 신뢰성 분석 프레임워크
대한전자공학회 학술대회
2023 .06
-
멤버십 추론 공격에 대한 견고성 향상을 위한 심전도 신호 비식별화 방안
정보보호학회논문지
2025 .02
-
Adversarial Sparsity Mapping Network to Defense Against Adversarial Attacks
Proceedings of KIIT Conference
2021 .06
-
유의미한 숫자 포함 이미지의 대량 생성을 위한 딥러닝 기반 시스템
전기학회논문지
2020 .12
-
얼굴 인식 모델에 대한 질의 효율적인 블랙박스 적대적 공격 방법
정보보호학회논문지
2022 .12
-
생성형 모델을 통한 모델 전도 공격에 대한 방어 기법 연구
한국정보과학회 학술발표논문집
2022 .12
-
카메라 시점 변환을 이용한 전이 기반 적대적 공격 기법
전자공학회논문지
2022 .07
-
데이터 예측 클래스 기반 적대적 공격 탐지 및 분류 모델
정보보호학회논문지
2021 .12
-
Stable Diffusion과 Textual Inversion을 활용한 동일 캐릭터 다각도 뷰 생성
Proceedings of KIIT Conference
2024 .05
-
멤버십 프로그램 성과평가 프레임워크 개발: 화장품 기업 멤버십 사례연구
한국지능정보시스템학회 학술대회논문집
2022 .11
-
픽셀 드랍을 이용한 레이블을 사용하지 않는 전이 기반 적대적 공격
대한전자공학회 학술대회
2021 .11
-
Exploring Membership Inference Attacks in Diffusion Models
대한전자공학회 학술대회
2024 .06
-
불확실성을 고려한 확산 모델 기반 적대적 공격에 의한 대장 내시경 이미지 생성
한국정보과학회 학술발표논문집
2024 .06
-
생성 모델 기반 적대적 공격의 전이성 향상을 위한 구분 모델의 특성 지도 마스킹 방법
대한전자공학회 학술대회
2022 .06
이 논문의 저자 정보
이 논문과 함께 이용한 논문
텍스트 기반 이미지 생성 모델의 생성 이미지 부적절성 감소를 위한 관심도 맵을 활용한 방법
홍영기
,
정진우
한국HCI학회 학술대회
2024
.01
Text-to-Image 모델의 성능을 이용한 Neural Radiance Fields 모델의 일반화 능력과 Style Transfer 렌더링 분석
이성주
,
조남익
한국방송미디어공학회 학술발표대회 논문집
2023
.06
최신 Text-to-Image 생성 모델의 동향
이상현
,
윤주열
,
박민호
외 2명
정보과학회지
2022
.12
웹툰 이미지 제작공정 단계별 활용 가능한 스케치 관련 인공지능 기술
채원석
,
김현진
한국정보과학회 학술발표논문집
2021
.12
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-151-24-02-088524774