Convolution neural network 병렬학습연구 위한 라즈베리파이 클러스터 개발 :RaspberryPi cluster for parallel process training method research of convolution neural network

허원호

추천

검색

자료유형: 학위논문

저자정보: 허원호 (연세대학교, 연세대학교 대학원)

지도교수: 김은태, 이동욱

발행연도: 2016

저작권: 연세대학교 논문은 저작권에 의해 보호받습니다.

이용수3

이 논문의 연구 히스토리 (2)

2016

Convolution neural network 병렬학습연구 위한 라즈베리파이 클러스터 개발

허원호 전기전자공학과 2016.01 학위논문

2015

Deep Learning 학습 병렬화 소프트웨어 개발 환경 제공 위한 라즈베리파이 기반 병렬 컴퓨터 개발

허원호 , 김은태 , 양현대 외 2명 한국정보과학회 학술발표논문집 2015.12 학술대회자료

이 논문의 후속연구가 궁금하신가요?
연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
이 논문의 연구 히스토리 확인하기

초록· 키워드

오류제보하기

본 논문에서는 라즈베리파이를 클러스터로 구성하여 Deep Learning 학습병렬연산 소프트웨어 개발을 위한 개발 환경을 구성하는 것이다. Deep learning은 많은 계층으로 구성된 기계학습 알고리즘으로 CNN(Convolution Neural Network), DBN(Deep Brif Network), RNN(Reccurent Neural Network), Auto Encorder 등 다양한 방식으로 구성되어 있다. 해당 알고리즘을 이용하여 바둑을 두는 인공지능(Google 알파고), 영상처리 및 인식기능, 로봇의 동작 상태 판단등 다양한 분야에 이용되고 있다. 알고리즘 구현이후에 학습이란 과정을 거쳐 각 계층 간의 연결강도를 결정하게 된다. 다수의 계층으로 구성된 신경망의 최적의 연결강도를 결정하기 위해서 Big Data를 이용한 학습이 진행된다. 다수의 계층과 Big Data를 이용한 학습은 상당히 많은 연산시간을 소비하게 된다. 이러한 연산 시간은 Deep Learning 연구개발에 커다란 장애물로 존재 했다. 이러한 문제를 해결하기 위하여 다양한 병렬 학습 기술이 연구 개발되고 있다. 병렬 학습 기술의 연구를 위해서는 CPU(Computie Processing Unit)와 GPU(Graphics Processing Unit)으로 이루어진 다수의 컴퓨터가 병렬 처리가 가능하도록 연구 환경이 구성되어 있어야한다. 이러한 연구 환경의 구성을 위해서는 높은 가격 및 넓은 설치 공간 등의 문제로 대다수의 연구자가 접근하기엔 제약 조건이 존재한다.
따라서 본 논문에서는 저렴한 가격과 작은 크기의 장점을 가진 라즈베리파이를 이용한 Deep Learning 병렬학습 연구위한 병렬컴퓨터 개발을 제안한다. 구성 후 개발된 클러스터의 확인 작업은 데이터 처리 병렬화, 연산 능력 확장법을 적용하여 진행했다. 기존의 병렬컴퓨터 환경을 시뮬레이션 가능성을 확인하기 위해 학습에 이용될 노드의 수, Batch의 크기 등을 조절하며 학습시간을 측정하여 진행하였다.

The purpose of this study is to constitute a Raspberry Pi cluster in order to construct a development environment for developing deep learning training parallelizing software. Deep learning is a machine learning algorithm comprising a complex hierarchy, including CNN(Convolution Neural Network), DBN(Deep Brief Network), RNN(Recurrent Neural Network), Auto Encoder, and so forth. The algorithm is used for various fields, such as go-playing AI(google Alpha-go), image processing, recognition, and the determination of robotic movement. After the realization of the algorithm, a ‘training’ process is added to determine the intensity of connection between each level among the hierarchy. To determine the optimal connection intensity of nerve network comprising multiple levels, the training uses big data. This training, which utilizes both the multiple levels and big data consumes much time for calculations, and this prolonged calculation time has been a huge obstacle for the research and development of deep learning. To resolve such problem, various parallelizing training techniques are being devised. For the research of the parallelizing training technique, first, a research environment capable of performing parallelizing process by multiple computers with CPU and GPU is required. To foster such an environment, there are limitations of high costs and large installation space in order for a majority of researchers to gain access.
Therefore, suggested in this study is the development of parallelized computer for the research of deep learning parallelizing training, by utilizing the Raspberry Pi, which is small in size and low by price. The confirmation work for the cluster was conducted by data process parallelization, and the expansion of computing capability. To confirm the simulatability of the existing parallelized computer environment, the time of training was measured, by adjusting such items as the number of nodes to be used for the training and the batch size.

#라즈베리파이 #클러스터 #병렬 컴퓨터 #병렬 연산 #deep learning #Raspberry Pi #cluster #convolution neural network #parallelized computer #parallel computing

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

이 논문의 연구 히스토리 (2)

초록· 키워드

목차

최근 본 자료

댓글(0)