Składanie wektora
Ostatnim krokiem w Pipeline jest połączenie wszystkich kolumn zawierających cechy w jedną kolumnę. Trzeba to zrobić przed przystąpieniem do modelowania, ponieważ każda procedura modelowania w Sparku wymaga danych w tej właśnie postaci. Polega to na zapisaniu wartości z każdej kolumny jako elementu wektora. Z punktu widzenia modelu każda obserwacja jest wektorem zawierającym wszystkie informacje na jej temat oraz etykietą określającą wartość, którą ta obserwacja reprezentuje.
Dlatego podmoduł pyspark.ml.feature zawiera klasę VectorAssembler. Ten Transformer pobiera wskazane kolumny i łączy je w nową kolumnę wektorową.
To ćwiczenie jest częścią kursu
Podstawy PySpark
Instrukcje do ćwiczenia
- Utwórz obiekt
VectorAssembler, wywołującVectorAssembler()z argumenteminputColsjako listą nazw kolumn oraz argumentemoutputColo wartości"features".- Lista kolumn powinna mieć postać:
["month", "air_time", "carrier_fact", "dest_fact", "plane_age"].
- Lista kolumn powinna mieć postać:
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Make a VectorAssembler
vec_assembler = VectorAssembler(inputCols=____, outputCol=____)