1. 概述

Spark1作业中,Driver和Executor使用指定范围内端口的设置是通过spark-submit命令行参数来实现的,其中spark-submit的参数有--conf,--driver-port,--files,--py-files,--driver-memory,--driver-cores等。

2. 指定Driver端口

通过--driver-port参数来指定Driver使用的端口,其语法如下:

其中port参数为指定的端口,如果不指定,则系统会随机分配一个可用端口。

3. 指定Executor端口

通过--conf参数来指定Executor使用的端口,其语法如下:

其中port参数为指定的端口,如果不指定,则系统会随机分配一个可用端口。

4. 示例

下面是一个实例,指定Driver和Executor使用的端口范围为10000-20000:

在上面的示例中,Driver和Executor将使用10000-20000范围内的端口。