Об'єднайте датафрейми
У наступних двох розділах ви працюватимете над створенням моделі, яка прогнозуватиме, чи буде рейс із затримкою, на основі набору даних про перельоти, з яким ми вже працювали. До моделі також увійде інформація про літак, що виконував маршрут, тож перший крок — об'єднати дві таблиці: flights і planes!
Ця вправа є частиною курсу
Основи PySpark
Інструкції до вправи
- Спочатку перейменуйте стовпець
yearу таблиціplanesнаplane_year, щоб уникнути дублювання назв стовпців. - Створіть новий датафрейм
model_data, об'єднавши таблицюflightsзplanes, використавши стовпецьtailnumяк ключ.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Rename year column
planes = planes.withColumnRenamed(____)
# Join the DataFrames
model_data = flights.join(____, on=____, how="leftouter")