Ridge Regression1 Chap 06 선형 모델 선택 및 정규화 - Shrinkage Methods : Ridge, LASSO Shrinkage Methods Shrinkage methods는 모든 p predictors를 포함하면서 coefficient estimates를 제한하고 규제합니다. 즉, coefficient estimates를 0으로 줄이는 방법을 사용하여 모델을 적합시킵니다. Coefficient estimates를 줄이는 것은 분산을 감소시키는 효과를 가집니다. 대표적인 방법으로 Ridge와 Lasso가 있습니다. Ridge Regression Ordinary Least Squares (OLS)는 $\beta's$가 최소가 되는 값을 추정합니다. $RSS = \sum_{i = 1}^{n} (y_{i} - \beta_{0} - \sum_{j=1}^{P}\beta_{j} x_{ij})^{2}$ Ridge Regre.. 2019. 10. 4. 이전 1 다음