Spark SQL 连接
有时用 SQL 来编写复杂的连接会更容易。在本练习中,连接键已经处于相同的格式和精度,您将使用 SparkSQL 来完成连接。
本练习是课程的一部分
使用 PySpark 进行特征工程
练习说明
- 使用
createOrReplaceTempView将这两个 DataFrame 注册为 SparkSQL 表,分别命名为df和walk_df。 - 在字符串
join_sql中,将左表设为df,右表设为walk_df。 - 对
join_sql字符串调用spark.sql()来执行连接。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Register dataframes as tables
____.createOrReplaceTempView(____)
____.createOrReplaceTempView(____)
# SQL to join dataframes
join_sql = """
SELECT
*
FROM ____
LEFT JOIN ____
ON df.longitude = walk_df.longitude
AND df.latitude = walk_df.latitude
"""
# Perform sql join
joined_df = spark.sql(____)