Construa seu pipeline de validação cruzada
Agora que temos nossos dados, as divisões de treino/teste, nosso modelo e nossos valores de hiperparâmetros, vamos dizer ao Spark como fazer a validação cruzada do modelo para encontrar a melhor combinação de hiperparâmetros e retorná-la para você.
Este exercicio faz parte do curso
Construindo mecanismos de recomendação com PySpark
Instruções do exercicio
- Crie um
CrossValidatorchamadocvcom nosso modeloalscomo estimator, definindoestimatorParamMapspara oparam_gridque você acabou de montar. Diga ao Spark que oevaluatora ser usado é o"evaluator"que criamos anteriormente. DefinanumFoldscomo 5. - Confirme que nosso
cvfoi criado imprimindocv.
exercicio interativo prático
Tente este exercicio completando este código de exemplo.
# Build cross validation using CrossValidator
____ = CrossValidator(estimator=____, estimatorParamMaps=____, evaluator=____, numFolds=____)
# Confirm cv was built
print(____)