메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
성열우 (남서울대학교) 수라폰논상 (남서울대학교) 안기택 (전북대학교) 김정길 (남서울대학교)
저널정보
Korean Institute of Information Scientists and Engineers 정보과학회 컴퓨팅의 실제 논문지 정보과학회 컴퓨팅의 실제 논문지 제29권 제9호
발행연도
2023.9
수록면
427 - 431 (5page)
DOI
10.5626/KTCP.2023.29.9.427

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
최근 딥러닝을 이용한 자연어처리 분야에서 다양한 모델이 소개되는 가운데 BERT와 GPT 등 트랜스포머(Transformer) 기반의 사전훈련 언어모델(Pre-trained model)이 기본이 되고 있다. 트랜스포머 기반 모델의 파인-튜닝(Fine-tuning)은 전체 모델의 파라미터가 업데이트되어 우수한 성능을 보여주고 있다. 최근에는 적은 양의 파라미터를 업데이트하여 성능을 개선하는 P-tuning 방식이 등장하였다. 본 논문에서는 모델의 파라미터의 학습을 동결하여 적은 양의 파라미터만 업데이트하더라도 기존의 파인-튜닝과 비슷한 성능을 달성할 수 있는 피-튜닝 방식에서 프롬프트 인코더(Prompt-encoder)를 변경한 방법을 제안하였다. 성능 검증을 위하여 GPT-2 모델은 KoGPT2를 사용하였다. NSMC와 KorNLI 데이터셋을 이용한 분류 결과, 제안한 방법은 기존의 피-튜닝 방식과 비교하여 NSMC와 KorNLI 데이터셋으로 각각 4.56%와 11%의 정확도가 향상된 성능 향상 결과를 보였다.
#자연어처리 #인공지능 #GPT-2 #P-tuning #BERT #transformer #natural language processing #AI

목차

요약
Abstract
1. 서론
2. 관련 연구
3. 제안 모델
4. 성능 검증
5. 결론
References

참고문헌 (20)

참고문헌 신청
J. Devlin, M. Chang, K. Lee, and K. Toutanova, “BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding,” arXiv abs/1810.04805 (2019). google schola A. Radford, J. Wu, R. Child, D. Luan, D. Amodei, and I. Sutskever, “Language Models are Unsupervised Multitask Learners,” OpenAI, San Francisco, California, United States, 2019. google schola X. Liu, Y. Zheng, Z. Du, M. Ding, Y. Qian, Z. Yang, and J. Tang, “GPT Understands, Too,” arXiv, abs/2103.10385, 2021. google schola X. Liu, K. Ji, Y. Fu, W. L. Tam, Z. Du, Z. Yang, and J. Tang, “P-Tuning v2: Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and Tasks,” arXiv abs/2110.07602, 2021. google schola S. W. Kim and W. C. Shin, “GPT-2 for Knowledge Graph Completion,” Journal of KIISE, Vol. 48, No. 12, pp. 1281-1288. Dec. 2021. (in Korean) google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

Transfer Learning Model for Contextual Feature Extraction and Emotion Analysis in Dialogues
Seon-Haeng Kim ,  So-Young Jun ,  Jong-Woo Kim 한국정보기술학회논문지 2023 .08
악성 댓글에 대한 한국어 혐오표현 및 편견 탐지 분류 모형 결과 분석 및 개선방안 연구
이세영 ,  박새롬 대한산업공학회지 2022 .12
사전학습 언어모델 기반의 한국어 질문-답변 데이터 증강 방법
조우진 ,  이혁준 정보과학회 컴퓨팅의 실제 논문지 2021 .12
T5-GPT 간 상징적 증류 지식 활용 프롬프트 엔지니어링
백지수 ,  방나모 ,  연희연 외 2명 정보과학회 컴퓨팅의 실제 논문지 2024 .03
어뢰위협 회피를 위한 강화학습 기반 기만 전술
정재현 ,  김규선 ,  박수현 외 2명 한국통신학회논문지 2024 .03

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0102-2023-569-002047801