读取 Spark 配置
您刚刚通过云服务商配置了一个集群。您只能通过命令行或 Python 代码进行访问。您想验证一些 Spark 设置,以确认集群配置是否正确。
spark 对象可供使用。
本练习是课程的一部分
使用 PySpark 进行数据清洗
练习说明
- 检查 Spark 应用实例的名称('spark.app.name')。
- 确定驱动程序运行的 TCP 端口('spark.driver.port')。
- 确定为连接操作配置了多少分区。
- 显示结果。
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Name of the Spark application instance
app_name = spark.____.get(____)
# Driver TCP port
driver_tcp_port = ____
# Number of join partitions
num_partitions = ____('spark.sql.shuffle.____')
# Show the results
print("Name: %s" % ____)
print("Driver TCP port: %s" % ____)
print("Number of partitions: %s" % ____)