메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
이상아 (서울대학교) 장한솔 (서울대학교) 백연미 (서울대학교) 박수지 (서울대학교) 신효필 (서울대학교)
저널정보
Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.47 No.7
발행연도
2020.7
수록면
682 - 692 (11page)
DOI
10.5626/JOK.2020.47.7.682

이용수

DBpia Top 10%동일한 주제분류 기준으로
최근 2년간 이용수 순으로 정렬했을 때
해당 논문이 위치하는 상위 비율을 의미합니다.
표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
최근 자연어처리에서 문장 단위의 임베딩을 위한 모델들은 거대한 말뭉치와 파라미터를 이용하기 때문에 큰 하드웨어와 데이터를 요구하고 학습하는 데 시간이 오래 걸린다는 단점을 갖는다. 따라서 규모가 크지 않더라도 학습 데이터를 경제적으로 활용하면서 필적할만한 성능을 가지는 모델의 필요성이 제기된다. 본 연구는 음절 단위의 한국어 사전, 자소 단위의 한국어 사전을 구축하고 자소 단위의 학습과 양방향 WordPiece 토크나이저를 새롭게 소개하였다. 그 결과 기존 모델의 1/10 사이즈의 학습 데이터를 이용하고 적절한 크기의 사전을 사용해 더 적은 파라미터로 계산량은 줄고 성능은 비슷한 KR-BERT 모델을 구현할 수 있었다. 이로써 한국어와 같이 고유의 문자 체계를 가지고 형태론적으로 복잡하며 자원이 적은 언어에 대해 모델을 구축할 때는 해당 언어에 특화된 언어학적 현상을 반영해야 한다는 것을 확인하였다.
#언어 모델링 #임베딩 모델 #한국어 모델 #사전 #토크나이저 #BERT #language modeling #embedding model #Korean language modeling #vocabulary #tokenizer

목차

요약
Abstract
1. 서론
2. 기존 연구
3. Multilingual BERT의 한계
4. 한국어에 특화된 KR-BERT 모형
5. 실험 및 결과
6. 결론
References

참고문헌 (24)

참고문헌 신청
J. Devlin, M.-W. Chang, K. Lee, and K. Toutanova, "Bert: Pre-training of deep bidirectional tranformers for language understanding," arXiv preprint arXiv: 1810.04805, 2018. L. Martin, B. Muller, P. J. O. Suárez, Y. Dupont, L. Romary, É. V. de la Clergerie, D. Seddah, and B. Sagot, "Camembert: a tasty french language model," arXiv preprint arXiv: 1911.03894, 2019. Y. Kuratov and M. Arkhipov, "Adaptation of deep bidirectional multilingual transformers for russian language," arXiv preprint arXiv:1905.07213, 2019. W. de Vries, A. van Cranenburgh, A. Bisazza, T. Caselli, G. van Noord, and M. Nissim, "BERTje: A Dutch BERT Model," arXiv preprint arXiv:1912. 09582, 2019. W. Antoun, F. Baly, and H. Hajj, "AraBERT: Transformer-based model for Arabic language understanding," arXiv preprint arXiv:2003.00104, 2020.

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

시각 및 언어장애인을 위한 음성합성 기술의 현황
이종석 ,  박기태 ,  이준우 전자공학회지 2014 .03
멀티 터치방식을 응용한 장애인용 맵 서비스 HCI 인터페이스 구현
조현구 ,  송다정 ,  양평우 외 1명 대한공간정보학회 학술대회 2012 .10
BERT의 문맥 정보에 미치는 특이 차원의 영향
심유라 ,  김영훈 정보과학회 컴퓨팅의 실제 논문지 2023 .01
BERT의 언어 지식의 편향성으로 인한 텍스트 정보 추출 오류
김세린 ,  권혁철 한국정보과학회 학술발표논문집 2022 .06
Korean Semantic Role Labeling with BERT
배장성 ,  이창기 ,  임수종 외 1명 Journal of KIISE 2020 .11

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2020-569-000892577