HDFS에서 다양한 크기의 파일을 위한 분산 적응형 캐시 관리 기법 :Distributed Adaptive Cache Management Schemes for Various Sizes of Files in HDFS

최형락,  Choi, Hyoung Rak

추천

검색

자료유형: 학위논문

저자정보: 최형락, Choi, Hyoung Rak (충북대학교, 충북대학교 대학원)

지도교수: 유재수

발행연도: 2019

저작권: 충북대학교 논문은 저작권에 의해 보호받습니다.

이용수10

이 논문의 연구 히스토리 (2)

2019

HDFS에서 적응형 캐시 관리 기법

최형락 , 유재수 한국콘텐츠학회 종합학술대회 논문집 2019.05 학술대회자료

HDFS에서 다양한 크기의 파일을 위한 분산 적응형 캐시 관리 기법

최형락 ; Choi , Hyoung Rak 정보통신공학과 2019.01 학위논문

이 논문의 후속연구가 궁금하신가요?
연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
이 논문의 연구 히스토리 확인하기

초록· 키워드

오류제보하기

제조업의 완전한 자동생산체계의 구축과 생산과정이 최적화된 스마트팩토리에는 정보통신기술(ICT)를 이용한 공정의 모든 데이터를 수집, 분석하여 제어하고 있다. 기존보다 방대한 양의 데이터를 처리하기 위해 기업들은 하둡을 이용한다. 수집된 데이터 중에는 사물인터넷(IoT)의 센서에서 수집되는 데이터처럼 수십 바이트에서 수백 킬로바이트로 매우 작은 파일들도 많이 있고 이미지, 스냅샷, 동영상 등의 대용량 파일도 존재하는 등 다양한 크기의 파일의 데이터가 혼합되어 나타난다. 하둡은 컴퓨터 클러스터에서 대용량 빅데이터를 분산저장 및 분산처리를 위해 작성된 자바 기반의 오픈 소스 프레임 워크이다. 대용량 데이터를 처리하는데 적합한 구조로 소형 파일이 많은 경우 메타 데이터의 양이 늘어나 소형 파일 처리에 대한 문제점이 발생하고 단일 네임 노드가 갖는 문제점과 데이터 노드 확장의 한계성도 발생한다. 스마트팩토리에서 수집된 데이터 중에는 로그나 IoT 센서 데이터처럼 소형 파일이 많이 있는데 이러한 다수의 소형 파일에 대한 분석이 요구되고 있다. 본 논문에서는 소형 파일을 효율적으로 접근하기 위해 캐시 메타 데이터를 적용한 분산 캐시 관리 기법을 제안한다. 제안하는 기법은 다수의 소형 파일을 병합하여 블록에 저장하여 네임 노드에서 관리해야 할 메타 데이터 수를 감소시킨다. 클라이언트와 데이터 노드의 캐시를 사용하여 요청된 파일들의 정보를 유지하고 통신주기에 따라 클라이언트 캐시의 캐시 메타 데이터를 동기화하여 불필요한 접근을 감소시킨다. 클라이언트의 캐시에는 사용자가 요청한 소형 파일과 메타 데이터가 유지되고 각 데이터 노드의 캐시에는 여러 사용자가 자주 요청했던 소형 파일을 유지한다. 다양한 크기의 데이터가 혼합되어 나타나는 환경에서 HDFS을 효율적으로 관리하기 위한 적응형 캐시 관리 기법도 제안한다. 제안하는 기법은 다양한 크기의 파일을 처리할 때 요청한 파일의 크기에 따라 블록의 크기를 3단계로 설정하여 처리함으로써 데이터 노드의 로컬 디스크의 공간 이용 효율성을 높이고 평균 데이터 크기를 분석하여 데이터 노드 확장시 적합한 블록 크기를 적용할 수 있게 관리한다.
성능 평가를 통해 제안하는 분산 캐시 관리 기법이 기존 기법에 비해 소형 파일 접근 비용을 크게 향상 됨을 보이고 적응형 캐시 관리 기법은 데이터 노드에 로컬 디스크 효율 향상과 읽기와 쓰기 속도의 속도에 효과를 보인다.

For smart factory optimized for the construction and production of the complete automated manufacturing system, all data on processes using ICT (Information Communication Technology) is collected, analyzed, and controlled. Companies use Hadoop to handle a larger amount of data than ever before. There are many very small files, from tens of bytes to hundreds of kilobytes, such as data collected from sensors on the IoT. Large files such as images, snapshots, videos, etc., and data of files of various sizes are mixed. Hadoop is a Java-based open source framework for distributed storage and distributed processing of large volume of bigdata in computer clusters. When there are many small files as a structure suitable for processing large amount of data, the amount of metadata increases, which causes a problem of small file processing. The problem of a single name node and the limitation of data node expansion also occur. Among the data collected from Smart Factory, there are many small files such as log and IoT sensor data, and analysis of these many small files is required. In this thesis proposes a distributed cache management scheme that considers cache metadata for efficient accesses of small files in HDFS. The proposed scheme can reduce the number of metadata managed by a name node since many small files are merged and stored in a block. Reduces unnecessary accesses by keeping the requested files using clients and the caches of data nodes and by synchronizing the metadata in client caches according to communication cycles. The client caches keeps small files that a user requests and metadata. Each data node caches keeps the small files that are frequently requested by users. In this thesis proposes an adaptive cache management scheme for efficient management of HDFS in a mixed environment of various sizes of data. When processing files of various sizes, the proposed technique improves space utilization on the local disk of the data node, and analyzes the average data size and manages the appropriate block size to be applied when expanding the data node by setting the block size to three stages, depending on the size of the file requested. It is shown through performance evaluation that the distributed cache management proposed scheme significantly reduces the processing time over the existing scheme and an adaptive cache management proposed scheme have improved local disk efficiency on the data node and improved the read and write speeds of files.

#HDFS

Ⅰ. 서 론 1
Ⅱ. 관련연구 6
1. 배경지식 6
(1) 하둡(Hadoop) 6
(2) HDFS의 문제점 11
2. 소형 파일 관리 기법 16
(1) 소형 파일의 병합 16
(2) 소형 파일 처리 기법 17
① Small PPT files 17
② EHDFS 19
③ HDFS 엔진 설계 21
3. 분산 캐시를 사용한 소형 파일 관리 기법 23
(1) Improved HDFS 23
(2) HDCache 25
4. 기존 기법의 문제점 27
(1) 소형 파일의 접근을 위한 기존 캐시 관리 기법의 문제점 27
(2) 데이터 노드 블록 크기의 문제점 29
Ⅲ. 제안하는 분산 캐시 관리 기법 33
1. 분산 캐시 관리 시스템 구조 33
2. 소형 파일과 메타 데이터 관리 36
3 제안하는 분산 캐시 관리 기법 40
4. 클라이언트 캐시의 캐시 메타 데이터 동기화 45
5. 캐시 데이터 교체 48
IV. 제안하는 적응형 캐시 관리 기법 52
1. 데이터 블록의 구조와 데이터 노드 확장 52
2. 파일 크기에 따른 캐시 데이터 관리 55
3. 제안하는 적응형 캐시 관리 기법 56
4. 이종 데이터 파일 처리 61
V. 성능평가 63
1. 성능 평가 환경 63
2. 분산 캐시 성능 평가 결과 84
(1) 소형 파일의 접근 시간 평가 84
(2) 데이터 노드의 블록 접근 빈도수 평가 87
(3) 캐시 적중률 평가 90
(4) 캐시 교체 전략에 따른 소형 파일 접근 비용 93
3. 적응형 캐시 성능 평가 결과 96
(1) 파일 크기별 접근 시간 평가 96
(2) 데이터 노드 효율성 평가 99
VI. 결론 및 향후 연구 100
참고문헌 101
감사의 글 112

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

이 논문의 연구 히스토리 (2)

초록· 키워드

목차

최근 본 자료

댓글(0)