'AI/Machine Learning' 카테고리의 글 목록

[핸즈온 머신러닝 2판] Chapter 10 요약

2022.12.08

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [10.1] 생물학적 뉴런에서 인공 뉴런까지 [10.1.2] 뉴런을 사용한 논리 연산 매우 단순한 신경망 모델을 제안하였는데, 그것이 인공 뉴런 논리 명제 계산 가능 첫 번째 네트워크 항등 함수 뉴런 A 활성화, 뉴런 C 활성화 뉴런 A 비활성화, 뉴런 C 비활성화 두 번재 네트워크 논리곱 연산 A, B 모두 활성화될 때 활성화 세 번째 네트워크 A, B 중 하나가 활성화되면 C도 활성화 네 번째 네트워크 뉴런 A가 활성화되고 뉴런 B가 비활성화될 때 뉴런 C가 활성화됩니다. 만약 뉴런 A가 항상 활성화되어 있다면 이 네트워크는 논리 부정 연산이 됩니다. 즉, 뉴런 B가 비활성화될 때 뉴런 C가 활성화되고, ..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 8 요약

2022.12.03

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [8.1] 차원의 저주 훈련 샘플 각각이 많은 특성을 가지는데 이런 많은 특성은 훈련을 느리게 할 뿐만 아니라, 좋은 솔루션을 찾기 어렵게 만든다. 이런 문제를 종종 차원의 저주라고 한다. 훈련 세트의 차원이 클수록 과대적합 위험이 커진다. 차원의 저주를 해결하는 해결책 중 하나는 훈련 샘플의 밀도가 충분히 높아질 때까지 훈련 세트의 크기를 키우는 것 [8.2] 차원 축소를 위한 접근 방법 [8.2.1] 투영 모든 훈련 샘플이 고차원 공간 안의 저차원 부분공간에 놓여 있다. 모든 샘플이 2차원 공간에 가깝게 배치되어 있다. 위 사진을 2차원 부분 공간에 수직으로 투영하여 2D 데이터셋을 얻을 수 있다. 이러한..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 5 요약

2022.11.29

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [5.1] 서포트 벡터 머신(SVM) 선형이나 비선형 분류, 회귀, 이상치 탐색에도 사용가능한 다목적 머신러닝 모델 SVM의 기본 아이디어는 라지 마진 분류로 나타낸다. 각 클래스 사이에 가장 폭이 넓은 도로를 찾는 것 도로 경계에 위치한 샘플을 서포트 벡터라고 한다. SVM은 특성의 스케일에 민감하다. 따라서 사이킷런의 StandardScaler를 사용해보자 하드 마진 분류 모든 샘플이 도로 바깥쪽에 올바르게 분류 데이터가 선형적으로 구분될 수 있어야 작동함 이상치에 민감하다. 소프트 마진 분류 하드 마진에서 좀 더 유연한 형태의 모델 샘플이 도로 중간에 있거나, 반대쪽에 있는 경우인 마진 오류 사이에 적절..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 4 요약

2022.10.27

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [4.1] 선형 회귀 선형 회귀 모델의 예측 $y = \theta_0 + \theta_1 x_1 + \theta_2 x_2 + ... +\theta_n x_n$ $y = h_\theta(x) = \theta \cdot x$ $y$는 예측값, $n$ 은 특성의 수, $x_i$는 $i$번째 특성값, $\theta_j$는 $j$번째 모델 파라미터 성능 평가 지표 평균 제곱근 오차(RMSE) : $\sqrt{MSE(\theta)}$ RMSE를 최소화하는 $\theta$를 찾아야 한다 정규 방정식 $\theta = (X^TX)^{-1}X^Ty$ $\theta$ 는 비용 함수를 최소화하는 값이다. $y$는 $y^{1}$..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 3 요약

2022.10.26

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [3.2] SGDClassifier 확률적 경사 하강법을 이용하여 선형 모델을 구현 from sklearn.linear_model import SGDClassifier sgd_clf = SGDClassifier(max_iter=1000, tol=1e-3, random_state=42) sgd_clf.fit(X_train, y_train) [Tip] SGDClassifier는 훈련하는 데 무작위성을 사용. 따라서 결과를 재현하기 위해서 random_state 매개변수를 지정해야함 [3.3] 성능 측정 방법 교차 검증 교차 검증이란 쉽게 말해 데이터를 여러 번 반복해서 나누고 여러 모델을 학습하여 성능을 평가하는..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 3장 연습문제 풀이

2022.10.23

1. MNIST 데이터셋으로 분류기를 만들어 테스트 세트에서 97% 정확도를 달성해보세요. from sklearn.datasets import fetch_openml import numpy as np mnist = fetch_openml('mnist_784', version = 1) X, y = mnist["data"], mnist["target"] y = y.astype(np.int) #Train, Test set 나누기 X_train, X_test, y_train, y_test = X[:60000], X[60000:], y[:60000], y[60000:] from sklearn.neighbors import KNeighborsClassifier knn_clf = KNeighborsClassifier..

티스토리툴바