调优 n_neighbors
n_neighbors 是 KNN 中最关键的参数。当您不确定数据集中异常点的数量时(这种情况很常见),就不能使用经验法则(当污染率低于 10% 时使用 20 个邻居)。
在这类情形下,您需要对 n_neighbors 进行调优。请在上一个练习中 females 数据集的变换版本上实践这一过程。它已加载为 females_transformed。KNN 估计器、evaluate_outlier_classifier 和 evaluate_regressor 函数也已加载。
下面是函数主体,供您参考:
def evaluate_outlier_classifier(model, data, threshold=.75):
model.fit(data)
probs = model.predict_proba(data)
inliers = data[probs[:, 1] <= threshold]
return inliers
def evaluate_regressor(inliers):
X, y = inliers.drop("weightkg", axis=1), inliers[['weightkg']]
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=10, train_size=0.8)
lr = LinearRegression()
lr.fit(X_train, y_train)
preds = lr.predict(X_test)
rmse = root_mean_squared_error(y_test, preds)
return round(rmse, 3)
本练习是课程的一部分
Python 中的异常检测
练习说明
- 按顺序创建
n_neighbors的候选取值列表:5、10、20。 - 实例化一个
KNN模型,在循环中将n_neighbors设为当前的k。 - 使用
evaluate_outlier_classifier函数找出内点。 - 使用
evaluate_regressor计算 RMSE,并将结果存入scores,其中键为k,值为对应的 RMSE。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Create a list of values for n_neigbors
n_neighbors = [____, ____, ____]
scores = dict()
for k in n_neighbors:
# Instantiate KNN with the current k
knn = ____(____, n_jobs=-1)
# Find the inliers with the current KNN
inliers = ____(____, ____, .50)
# Calculate and store RMSE into scores
scores[____] = ____
print(scores)