Definování agregovaných metrik
Teď si nadefinujeme výkonnostní metriky.
Dataset knowledge_train_data už je načtený, stejně jako balíčky mlr a tidyverse. Byl také spuštěn následující kód:
task <- makeClassifTask(data = knowledge_train_data,
target = "UNS")
lrn <- makeLearner(cl = "classif.nnet", fix.factors.prediction = TRUE)
param_set <- makeParamSet(
makeIntegerParam("size", lower = 1, upper = 5),
makeIntegerParam("maxit", lower = 1, upper = 300),
makeNumericParam("decay", lower = 0.0001, upper = 1)
)
ctrl_random <- makeTuneControlRandom(maxit = 10)
Toto cvičení je součástí kurzu
Hyperparameter Tuning in R
Pokyny k cvičení
- Použij funkci
setAggregation, která agreguje směrodatnou odchylku výkonnostních metrik. - Aplikuj
setAggregationna průměrnou chybu špatné klasifikace a přesnost po resamplingú. - Optimalizuj model podle průměrné chyby špatné klasifikace. Nezapomeň, že první argument se používá pro optimalizaci.
Interaktivní cvičení na vyzkoušení si v praxi
Vyzkoušejte si toto cvičení dokončením tohoto ukázkového kódu.
# Create holdout sampling
holdout <- makeResampleDesc("Holdout", predict = "both")
# Perform tuning
lrn_tune <- tuneParams(learner = lrn,
task = task,
resampling = holdout,
control = ctrl_random,
par.set = param_set,
measures = list(___, ___(___, train.mean), ___, ___(___, train.mean)))