开始使用免费开始使用

读取 Spark 配置

您刚刚通过云服务商配置了一个集群。您只能通过命令行或 Python 代码进行访问。您想验证一些 Spark 设置,以确认集群配置是否正确。

spark 对象可供使用。

本练习是课程的一部分

使用 PySpark 进行数据清洗

查看课程

练习说明

  • 检查 Spark 应用实例的名称('spark.app.name')。
  • 确定驱动程序运行的 TCP 端口('spark.driver.port')。
  • 确定为连接操作配置了多少分区。
  • 显示结果。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Name of the Spark application instance
app_name = spark.____.get(____)

# Driver TCP port
driver_tcp_port = ____

# Number of join partitions
num_partitions = ____('spark.sql.shuffle.____')

# Show the results
print("Name: %s" % ____)
print("Driver TCP port: %s" % ____)
print("Number of partitions: %s" % ____)
编辑并运行代码