开始使用免费开始使用

Spark SQL 连接

有时用 SQL 来编写复杂的连接会更容易。在本练习中,连接键已经处于相同的格式和精度,您将使用 SparkSQL 来完成连接。

本练习是课程的一部分

使用 PySpark 进行特征工程

查看课程

练习说明

  • 使用 createOrReplaceTempView 将这两个 DataFrame 注册为 SparkSQL 表,分别命名为 dfwalk_df
  • 在字符串 join_sql 中,将左表设为 df,右表设为 walk_df
  • join_sql 字符串调用 spark.sql() 来执行连接。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Register dataframes as tables
____.createOrReplaceTempView(____)
____.createOrReplaceTempView(____)

# SQL to join dataframes
join_sql = 	"""
			SELECT 
				*
			FROM ____
			LEFT JOIN ____
			ON df.longitude = walk_df.longitude
			AND df.latitude = walk_df.latitude
			"""
# Perform sql join
joined_df = spark.sql(____)
编辑并运行代码