Lasso2 Scikit-Learn(사이킷런) 코드 완벽 분석 - Linear Regression Lasso import numpy as np import matplotlib.pyplot as plt %matplotlib inline from sklearn.metrics import r2_score 필요한 모듈을 가져옵니다. # ############################################################################# # Generate some sparse data to play with np.random.seed(42) n_samples, n_features = 50, 100 X = np.random.randn(n_samples, n_features) # Decreasing coef w. alternated signs for visualization idx =.. 2019. 10. 18. Chap 06 선형 모델 선택 및 정규화 - Shrinkage Methods : Ridge, LASSO Shrinkage Methods Shrinkage methods는 모든 p predictors를 포함하면서 coefficient estimates를 제한하고 규제합니다. 즉, coefficient estimates를 0으로 줄이는 방법을 사용하여 모델을 적합시킵니다. Coefficient estimates를 줄이는 것은 분산을 감소시키는 효과를 가집니다. 대표적인 방법으로 Ridge와 Lasso가 있습니다. Ridge Regression Ordinary Least Squares (OLS)는 $\beta's$가 최소가 되는 값을 추정합니다. $RSS = \sum_{i = 1}^{n} (y_{i} - \beta_{0} - \sum_{j=1}^{P}\beta_{j} x_{ij})^{2}$ Ridge Regre.. 2019. 10. 4. 이전 1 다음