본문 바로가기

머신러닝

[ML 머신러닝] Multi-Layer VS Single Layer 다중 레이어 VS 단일 레이어 2022. 2. 10. 이전에 [ML 머신러닝]에서 했던 학습들은 전부 레이어(Layer)를 하나만 쌓아서 학습했습니다. 이번 장에서는 Layer의 개수를 1개 더 늘려서 성능이 올라가는지 확인해보겠습니다. Layer를 하나 쌓아서 학습하는 LR(Linear regression)과 non-linear를 추가해서 layer 2개를 쌓아서 만든 MLP(Multi-Layer Percaptron)를 만들어 비교해보겠습니다. 전장에서 사용했던 Metal-Casting Parts dataset을 활용해서 진행해봅니다. Step 1. Images of Metal-Casting Parts 필요한 모듈과 데이터를 불러옵니다. from autograd import numpy from autograd import grad from matplotl..
[ML 머신러닝] Dimensionality Reduction 차원 축소 2022. 2. 7. Step 1. Why Visualizing? 사람은 머신러닝 문제를 이해할 수 없습니다. 머신러닝 문제가 별로 복잡하지 않아도 사람은 머신러닝을 완벽하게 이해할 수 없습니다. 이는 사람이 태생적으로 가진 핸디캡이 있기 때문입니다. 사람은 3차원 공간에서 살고 있습니다. 3차원 공간 속에는 2차원, 1차원도 존재합니다. 우리가 보고 느낄 수 있는 것들은 1, 2, 3차원입니다. 하지만 머신러닝에서 다루는 차원의 수는 정말 큽니다. 많은 경우에서 훈련 샘플 각각은 수천 심지어 수백만 개의 차원을 가지고 있습니다. 이렇게 너무많은 차원은 사람이 머신러닝을 이해할 수 없게 만듭니다. 그래서 사람은 고차원을 저차원으로 변환하는 기술을 연구하였습니다. 이를 차원축소(Dimensionality Reduction)라고..
[ML 머신러닝] Multiple Logistic Regression 다항 로지스틱 회귀 분석 2022. 1. 28. 데이터에 3개 이상의 다양한 입력 변수가 있을 때, 사용하는 Logistic Regression을 Multiple Logistic Regression이라고 합니다. 이번 편에서는 물품의 상태를 판별하는 이미지 데이터를 가지고 진행해봅니다. Step 1. Images of metal-casting parts 제조업 분야에서 물품의 상태를 판별하는데 컴퓨터 비전(CV)을 많이 사용합니다. (컴퓨터 비전은 이미지 데이터를 이용한 인공지능의 한 분야입니다.) 물품의 사진이 주어지면 그것이 결함이 있는지 없는지 판단하는 모델을 multiple logistic regression으로 진행해보겠습니다. 먼저 간단한 실험을 하기 위해, 이미지를 흑백으로 변환하고, 적은 개수의 데이터로 진행합니다. 시각화를 돕는 코드를..
[ML 머신러닝] Polynomial Regression & Regularization 다항식 회귀 분석과 정규화 2022. 1. 27. 본문에 들어가기에 앞서 우리말로 번역되는 정규화에는 Normalization과 Standardization 그리고 Regularization이 존재합니다. 이 세가지는 각기 다른 뜻을 가지고 있기에 머신러닝에서는 정규화라는 단어보다 영어를 주로 사용합니다. 따라서 이번 편에서는 정규화 대신 Regularization을 사용하겠습니다. 각 정규화들의 차이를 간단히 정리하자면, Normalization값의 범위(scale)를 0~1 혹은 -1~1 사이의 값 등으로 바꾸는 것을 의미합니다. (Multiple Linear Regression편에서 다루었습니다.) 학습 전에 scaling 하는 것으로 머신러닝에서 범위(scale)가 큰 값(feature)의 영향이 비대해지는 것을 미리 방지합니다. 딥러닝에서 전체..
[ML 머신러닝] Logistic Regression 로지스틱 회귀 분석 2022. 1. 26. 로지스틱 회귀(Logistic Regression)는 데이터가 어떤 범주에 속할 확률을 0에서 1 사이의 값으로 예측한 후, 그 확률에 따라서 더 가능성이 높은 범주에 속하는 것으로 분류해주는 지도학습 알고리즘입니다. 예를들면 스팸 메일 분류같은 것이 있습니다. 스팸 분류기는 어떤 메일을 받았을 때 스팸일 확률이 50% 이상이면 스팸으로 아니면 스팸이 아닌 것으로 분류하여 줍니다. 이렇게 2개의 범주로 나누는 것을 2진 분류(Binary classification)이라고 하고 3개 이상으로 나누는 것을 다중분류(Multi-class classification)이라고 합니다. step 1. Logistic Function (Sigmoid Function) Logistic regression을 진행하기 위해..
[ML 머신러닝] Multiple Linear Regression 다중 선형 회귀 분석 2022. 1. 25. Multiple Linear Regression 다중 선형 회귀 분석은 Single Linear Regression과 달리 하나 이상의 다양한 변수들을 고려해서 분석하는 방식입니다. 예를 들어서 집 값을 예측하고자 한다면, 집의 크기, 주변의 편의 시설, 위치, 화장실의 개수, 건축 년도 등등 고려해야 할 것들이 매우 많습니다. 이번 과제에서는 이렇게 다양한 입력 변수들을 다루는 multiple linear regression에 대해서 알아봅니다. Step. 1 Dataset 이번시간에는 자동차의 여러 기술적인 사양들을 고려해서 연비를 예측해보겠습니다. Auto Miles Per Gallon(MPG) Dataset을 불러옵니다. import pandas import seaborn seaborn.set()..
[ML 머신러닝] Preview 2022. 1. 25. 인공지능 공부를 시작하고 저는 개인적으로 머신러닝 파트부터 공부가 더욱 즐거웠습니다. 선형대수나 언어론같은 CS 기초적인 공부도 물론 재미있지만, 머신러닝부터는 결과가 눈에 보이고 모델이 돌아가면서, '내가 지금 인공지능을 공부하고 있구나' 하고 상기시켜 주었습니다. 게다가 여러가지 ML 기법을 배우면서, 일상생활에 적용할 수 있는 다양한 아이디어들이 떠오르기 시작했습니다. 인공지능 공부를 이제 막 시작하신 분들도 이런 재미를 느끼셨으면 좋겠습니다. 이 글의 각 쳅터들은 영어표기와 한국어 표기를 중복했습니다. 이는 해외에서 유학하고 있는 분들이나 처음 접해서 용어가 헷갈리는 분들을 배려한 조치입니다. 다소 불편하더라도 학습에 도움이 되니 두 가지 표현 다 숙지하면 좋을거 같습니다. 해당 글은 Goorm에..
[ML 머신러닝] Simple Linear regression 단순 선형 회귀 분석 2022. 1. 25. Linear regression은 종속 변수 $y$와 한개 이상의 독립 변수 $X$와의 선형 관계를 모델링하는 방법론입니다. 여기서 독립 변수는 입력 값이나 원인을 나타내고, 종속 변수는 독립 변수에 의해 영향을 받는 변수입니다. 종속 변수는 보통 결과물을 나타냅니다. 선형 관계를 모델링한다는 것은 1차로 이루어진 직선을 구하는 것입니다. 우리의 데이터를 가장 잘 설명하는 최적의 직선을 찾아냄으로써 독립 변수와 종속 변수 사이의 관계를 도출해 내는 과정입니다. 이를 수식으로 표현 하자면, 변수가 한개인 Simple 직선입니다. $$f(x_i) = wx_i + b$$ 우리의 데이터를 가장 잘 설명하는 직선은 우리가 직선을 통해 예측한 값이 실제 데이터의 값과 가장 비슷해야 합니다. 우리의 모델이 예측한 값..

티스토리툴바