최근 인공지능이 발전함에 따라서 인공지능 구현에 사용되는 머신러닝과 딥러닝, 빅데이터 분석 등에 관한 연구도 빠르게 진행되고 있다. 그 중 머신러닝은 명시된 프로그램 없이도 스스로 학습하는 능력을 갖추게 하는 연구 분야로써 새로운 데이터가 입력되면 스스로 학습하여 자신을 향상시키고 변화시키는 프로그램을 바탕으로 동작한다. 머신러닝의 알고리즘들은 크게 지도학습과 비지도학습, 강화 학습으로 분류가 된다. 지도학습은 분류와 회귀의 알고리즘이 있고, 비지도학습에는 차원 축소, 군집화, 연관 규칙학습 등의 알고리즘들이 있다. 다양한 머신러닝 알고리즘마다 각각의 장단점과 성능의 차이가 존재한다. 본 논문에서는 지도학습에 속하는 로지스틱 회귀(Logistic Regression)와 서포트 벡터 머신(Support Vector Machine ? SVM) 2개의 알고리즘을 선정해 분류기를 제작하여 비교 평가하는 실험을 진행하여 차이점을 알아보고자 한다. 두 알고리즘을 비교하기 위한 표본 데이터로 호주의 각 지역 기상관측소에서 다년간 수집된 기상정보를 사용하였고, 두 개의 분류기는 표본 데이터를 사용하여 내일의 강수 유무를 예측하는 학습을 진행하였다. 로지스틱회귀는 결과가 1 또는 0인 이항 분류 문제에서 쓰이는 분류 방법으로, 선형 회귀식의 가설에 S자 형태의 로지스틱 함수와 승산비를 적합시켜서발전시킨 알고리즘이다. 로지스틱 회귀 모델은 간단하고 효율적이라서 구현이 쉽고 많은 자원이 필요하지 않다는 장점이 있다. 서포트 벡터 머신은 선형이나 비선형 분류, 회귀, 이상치 탐색에도 사용할 수 있는 강력한 다목적 머신러닝 모델이다. 기본적인 이론은 분류해야 할 2개의 그룹에서 각각의 데이터 간 거리를 측정하여 2개의 데이터 사이의 중심을 구한 후에 그걸 결정 경계라 칭하고, 그 가운데에서 최적의 초평면을 구함으로써 2개의 그룹을 나누는 방법을 학습하게 된다. 분류기에 표본데이터를 학습시키기 위해서 원본데이터를 바로 사용하지 않고 다양한 전처리를 진행하였다. 표본 데이터의 입력 특징들 중에서 사용되지 않을 값과 이상치 탐색을 통해 찾아낸 이상치들을 제거하고, 결손된 데이터의 처리와 정규화 등을 통해서 비교 실험에 사용하기에 알맞은 형태로 만들어 주었다. 두 분류기의 비교 실험을 위해서 표본 데이터를 사용해 5000개, 10000개, 30000개, 100000개의 크기별 데이터를 만들었고, 데이터의 크기마다 분류기가 학습되는 학습시간, 학습된 분류기가 새로운 데이터를 분류하는 분류시간 그리고 분류의 정확도를 측정하여 비교 실험하였다. 본 논문을 통해 두 분류기의 이론적인 내용을 알아보고 분류기의 성능을 각각 실험하여 비교 평가하였다. 비교 평가한 결론을 통해 새로운 데이터를 분류하고자 할 때의 기준을 제시한다.
Recently, researches on Machine learning, Deep learning, Big data analysis and so on are being carried out rapidly as artificial intelligence develops. Among them, Machine Learning is a field of study that enables students to learn on their own without a specified program. It operates based on a program that learns and improves itself when new data is input. The algorithms of machine learning are largely divided into supervised learning, unsupervised learning, and reinforcement learning. There are classification and regression algorithms for supervised learning, and there are algorithms such as dimensionality reduction, clustering, and association rule learning for unsupervised learning. In this paper, we have developed two classifiers based on Logistic Regression and Support Vector Machine among various machine learning algorithms. As a sample data for comparing the two algorithms, we used weather information collected from many meteorological observatories in Australia, and two classifiers used sample data to predict tomorrow''s precipitation. Logistic regression is a regression method used in the binomial classification problem with a result of 1 or 0, which is developed by adapting the S-shaped logistic function and the odds ratio to the hypothesis of the linear regression equation. Logistic regression models are simple and efficient, so they are easy to implement and do not require a lot of resources. Support vector machine are powerful multipurpose machine learning models that can be used for linear or nonlinear classification, regression, and outlier detection. The basic theory is to measure the distance between each pair of data in two groups to be classified, to find the center between two data, then to call it a decision boundary, and to learn how to divide two groups by finding the optimal hyperplane among them. In order to study the sampled data in the classifier, various preprocessing was performed without directly using the original data. Among the input characteristics of the sample data, the values not to be used and the outliers found through the outlier detection are removed, and normalized to make it suitable for comparison experiments. For the comparison experiment of two classifiers, we made data of 5000, 10000, 30000, and 100000 sizes using the sample data, and the learning time at which the classifier is learned for each data size, the classification time at which the learned classifier classifies new data, the accuracy of classification was measured and compared. In this paper, the theoretical contents of two classifiers are examined, and the performances of classifiers are compared and evaluated. The results of the comparative evaluation show the criteria for classifying new data.
목차
국문 초록 ⅵ제 1 장 서론 1제 2 장 배경지식 및 관련 연구 3제 1 절 머신러닝 이론 3제 2 절 로지스틱 회귀 알고리즘 5제 3 절 서포트 벡터 머신(SVM) 알고리즘 10제 3 장 표본 데이터 내용과 머신러닝 분류기 구현 13제 1 절 실험 표본 데이터 내용 13제 2 절 표본 데이터의 전처리 17제 3 절 scikit-learn을 이용한 분류기 구현 18제 4 장 실험 결과 및 성능 비교평가 22제 1 절 비교 실험평가 항목 및 표본 데이터 조정 22제 2 절 로지스틱 회귀 분류기 실험 25제 3 절 서포트 벡터 머신 분류기 실험 28제 4 절 실험 결과 비교 및 평가 31제 5 장 결론 33참고문헌 36영문 초록 38