'분류 전체보기' 카테고리의 글 목록 (2 Page)

Paper Review

VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION

2022.12.23

[논문리뷰] ABSTRACT 본 논문에서는 Large-scale image recogniotion에서 Convolutional network의 깊이가 성능에 얼마나 영향을 미치는지 조사하였다. 매우 작은 3 x 3 convolution filter를 가진 아키텍쳐를 사용하여 depth를 증가시킨 네트워크의 성능을 평가하였다. Depth를 Layer 16-19정도의 크기로 증가시켜 상당한 성능 개선을 이루었다. 1. INTRODUCTION 본 논문에서는 ConvNet 아키텍처 설계의 또 다른 중요한 측면인 깊이를 다룬다. 모든 layer에서 매우 작은(3×3) convolution filter를 사용하기 때문에 실현 가능한 convolution layer를 추가하여 네트워크 깊이를 꾸준히 증가시킴. 결과적..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 10 요약

2022.12.08

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [10.1] 생물학적 뉴런에서 인공 뉴런까지 [10.1.2] 뉴런을 사용한 논리 연산 매우 단순한 신경망 모델을 제안하였는데, 그것이 인공 뉴런 논리 명제 계산 가능 첫 번째 네트워크 항등 함수 뉴런 A 활성화, 뉴런 C 활성화 뉴런 A 비활성화, 뉴런 C 비활성화 두 번재 네트워크 논리곱 연산 A, B 모두 활성화될 때 활성화 세 번째 네트워크 A, B 중 하나가 활성화되면 C도 활성화 네 번째 네트워크 뉴런 A가 활성화되고 뉴런 B가 비활성화될 때 뉴런 C가 활성화됩니다. 만약 뉴런 A가 항상 활성화되어 있다면 이 네트워크는 논리 부정 연산이 됩니다. 즉, 뉴런 B가 비활성화될 때 뉴런 C가 활성화되고, ..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 8 요약

2022.12.03

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [8.1] 차원의 저주 훈련 샘플 각각이 많은 특성을 가지는데 이런 많은 특성은 훈련을 느리게 할 뿐만 아니라, 좋은 솔루션을 찾기 어렵게 만든다. 이런 문제를 종종 차원의 저주라고 한다. 훈련 세트의 차원이 클수록 과대적합 위험이 커진다. 차원의 저주를 해결하는 해결책 중 하나는 훈련 샘플의 밀도가 충분히 높아질 때까지 훈련 세트의 크기를 키우는 것 [8.2] 차원 축소를 위한 접근 방법 [8.2.1] 투영 모든 훈련 샘플이 고차원 공간 안의 저차원 부분공간에 놓여 있다. 모든 샘플이 2차원 공간에 가깝게 배치되어 있다. 위 사진을 2차원 부분 공간에 수직으로 투영하여 2D 데이터셋을 얻을 수 있다. 이러한..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 5 요약

2022.11.29

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [5.1] 서포트 벡터 머신(SVM) 선형이나 비선형 분류, 회귀, 이상치 탐색에도 사용가능한 다목적 머신러닝 모델 SVM의 기본 아이디어는 라지 마진 분류로 나타낸다. 각 클래스 사이에 가장 폭이 넓은 도로를 찾는 것 도로 경계에 위치한 샘플을 서포트 벡터라고 한다. SVM은 특성의 스케일에 민감하다. 따라서 사이킷런의 StandardScaler를 사용해보자 하드 마진 분류 모든 샘플이 도로 바깥쪽에 올바르게 분류 데이터가 선형적으로 구분될 수 있어야 작동함 이상치에 민감하다. 소프트 마진 분류 하드 마진에서 좀 더 유연한 형태의 모델 샘플이 도로 중간에 있거나, 반대쪽에 있는 경우인 마진 오류 사이에 적절..

Projects

2022 AI-Hub 학습데이터 기반 해커톤 대회 - 금상 수상, 프로젝트 회고

2022.11.20

프로젝트 명 : 딥러닝 기반 벌 종류 분류 시스템 개요 본 프로젝트는 양봉 농부들에게 도움이 되고자 진행하게 되었다. 하나의 벌통에는 한 마리의 여왕벌이 존재해야 하며, 벌들의 종류 또한 섞이면 안된다. 따라서 벌들의 종류를 정확히 파악하고 분류해야 할 필요가 있다. 또한 벌통 청소, 꿀 채취, 농약 살포 등을 위해 1년에 최소 6회는 여왕벌을 찾아야 할 필요가 있다. 그리고 꿀을 저장하는 먹이장과 알을 낳는 산란장은 관리를 위해 구분되어져야 하는데, 여왕벌이 먹이장으로 이동하여 산란을 하게 되면 여왕벌을 찾아 산란장으로 다시 이동시켜야 하며 산란된 알들을 찾아 옮겨줘야 한다. 하지만 여러 마리의 벌들 속에서 여왕벌을 정확히 찾기는 상당한 시간이 소요될 뿐만 아니라 조그만 알들을 찾아 옮겨주는 일 또한 ..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 4 요약

2022.10.27

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [4.1] 선형 회귀 선형 회귀 모델의 예측 $y = \theta_0 + \theta_1 x_1 + \theta_2 x_2 + ... +\theta_n x_n$ $y = h_\theta(x) = \theta \cdot x$ $y$는 예측값, $n$ 은 특성의 수, $x_i$는 $i$번째 특성값, $\theta_j$는 $j$번째 모델 파라미터 성능 평가 지표 평균 제곱근 오차(RMSE) : $\sqrt{MSE(\theta)}$ RMSE를 최소화하는 $\theta$를 찾아야 한다 정규 방정식 $\theta = (X^TX)^{-1}X^Ty$ $\theta$ 는 비용 함수를 최소화하는 값이다. $y$는 $y^{1}$..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 3 요약

2022.10.26

본 내용은 핸즈온 머신러닝2 를 기반으로 작성하였으며, 생략된 내용이나 추가된 내용이 있습니다. [3.2] SGDClassifier 확률적 경사 하강법을 이용하여 선형 모델을 구현 from sklearn.linear_model import SGDClassifier sgd_clf = SGDClassifier(max_iter=1000, tol=1e-3, random_state=42) sgd_clf.fit(X_train, y_train) [Tip] SGDClassifier는 훈련하는 데 무작위성을 사용. 따라서 결과를 재현하기 위해서 random_state 매개변수를 지정해야함 [3.3] 성능 측정 방법 교차 검증 교차 검증이란 쉽게 말해 데이터를 여러 번 반복해서 나누고 여러 모델을 학습하여 성능을 평가하는..

AI/Machine Learning

[핸즈온 머신러닝 2판] Chapter 3장 연습문제 풀이

2022.10.23

1. MNIST 데이터셋으로 분류기를 만들어 테스트 세트에서 97% 정확도를 달성해보세요. from sklearn.datasets import fetch_openml import numpy as np mnist = fetch_openml('mnist_784', version = 1) X, y = mnist["data"], mnist["target"] y = y.astype(np.int) #Train, Test set 나누기 X_train, X_test, y_train, y_test = X[:60000], X[60000:], y[:60000], y[60000:] from sklearn.neighbors import KNeighborsClassifier knn_clf = KNeighborsClassifier..

ALL

VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION

[핸즈온 머신러닝 2판] Chapter 10 요약

[핸즈온 머신러닝 2판] Chapter 8 요약

[핸즈온 머신러닝 2판] Chapter 5 요약

2022 AI-Hub 학습데이터 기반 해커톤 대회 - 금상 수상, 프로젝트 회고

[핸즈온 머신러닝 2판] Chapter 4 요약

[핸즈온 머신러닝 2판] Chapter 3 요약

[핸즈온 머신러닝 2판] Chapter 3장 연습문제 풀이

티스토리툴바