Random Search_

데이터 준비는 모두 끝났다는 가정하에. ML정리본에는 GridSearch만 있음. 실무에서 Random search를 많이 쓴다고 하니 정리.

# Random Search

model_rf = RandomForestClassifier(max_depth=5, random_state=1)

# 파라미터 지정
param = {
    'n_estimators': sp_randint(10, 1000),
    'max_depth': [None] + list(sp_randint(1, 100).rvs(99)),
    'max_features': sp_randint(1, 50),
    'min_samples_split': sp_randint(2, 20),
    'min_samples_leaf': sp_randint(1, 20),
    'bootstrap': [True, False],
    'criterion': ['gini', 'entropy']
}

# 모델 선언
n_iter_search = 20
model = RandomizedSearchCV(
    model_rf, param_distributions=param, n_iter=n_iter_search, cv=5)

# 학습하기
model.fit(s_x_train, s_y_train)

# 최적 파라미터, 정확도
print("Best parameters: ", model.best_params_)
print("Accuracy score: ", model.best_score_)