파이썬 라이브러리를 활용한 머신러닝25 Neural Networks 인공 신경망 (Neural Networks) 뇌 구조 (Biological Neural Networks)는 지능형 기계를 구축하는데 영감을 주었습니다. -> 인공신경망 (Artificial Neural Networks) 신경망이라 알려진 알고리즘들은 최근 '딥러닝 (deep learning)'이란 이름으로 다시 주목받고 있습니다. 여기서는 복잡한 딥러닝 알고리즘의 출발점이며 비교적 간단하게 분류와 회귀에 쓸 수 있는 다중 퍼셉트론 (MLP)을 다루겠습니다. 다중 퍼셉트론은 피드포워드 신경망 (feed-forward 신경망), 또는 그냥 신경망이라고도 합니다. 다층 퍼셉트론 (Multi-layer Perceptrons) 다층 퍼셉트론 (Multi-layer Perceptrons) 입력 층, 은닉 층 (0에.. 2019. 11. 14. Support Vector Machines 이진 분류 작업 훈련 데이터를 분리할 수 있는 초평면이 많이 있습니다. 서포트 벡터 분류 원리 트레이닝 데이터셋 $D = \left \{ (\mathbf{x_{1}},y_{1} ), (\mathbf{x_{2}},y_{2} ), ..., (\mathbf{x_{n}},y_{n} ) \right \}$ $\mathbf{x_{i}} = (x_{i}^{1}, ..., x_{i}^{d}) \in R^{d}$은 d 입력 변수의 i-th 입력 벡터입니다. $y_{i} \in \left \{ -1, +1 \right \}$는 대응하는 출력 변수의 레이블입니다. SVM은 positive ($y_{i} = +1$)와 negative ($y_{i} = -1$) 데이터 포인트 사이에서 maximum-margin hyperpla.. 2019. 11. 13. Decision Trees 결정 트리 결정 트리는 분류와 회귀 문제에 널리 사용하는 모델입니다. 기본적으로 결정 트리는 결정에 다다르기 위해 예/아니오 질문을 이어 나가면서 학습합니다. 트리의 노드는 질문이나 정답을 담은 네모 상자입니다 (특히 마지막 노드는 리프(leaf)라고 합니다). 에지(edge)는 질문의 답과 다음 질문을 연결합니다. 모델을 직접 만든느 대신 지도 학습 방식으로 데이터로부터 학습할 수 있습니다. 연속된 질문들은 결정 트리로 나타납니다. 최상의 분할을 결정하는 방법 (분류) 그리디(Greedy) 접근 : 더 순수한 클래스 분포를 가진 노드를 선호하는 것 노드 불순도를 측정하는 방법 $GINI(t) = 1 - \sum_{j}[p(j\mid t)]^{2}$ $Entropy(t) = -\sum_{j} p(j \m.. 2019. 11. 12. Linear Models 선형 모델 선형 모델은 입력 특성에 대한 선형 함수를 만들어 예측을 수행합니다. Linear models for Regression Linear Regression Ridge Regression Lasso Regression Linear models for Binary Classification Logistic Regression 선형 회귀(최소제곱법) 회귀의 경우 선형 모델에서 $\hat{y}$은 모델이 만들어낸 예측값입니다. Linear Regression (ordinary least squares (OLS)) 선형 회귀는 예측과 훈련 세트에 있는 타깃 y 사이의 평균제곱오차(mean squared error)를 최소화하는 파라미터 $\textbf{w}$를 찾습니다. $\hat{y} = w_{0} +.. 2019. 11. 11. 이전 1 ··· 3 4 5 6 7 다음
