liunx 定时任务通过脚本文件调用spark-submit
时间: 2023-07-04 11:26:21 浏览: 143
要在 Linux 中定时通过脚本文件调用 `spark-submit` 命令,可以使用 crontab 服务。下面是具体的步骤:
1. 创建一个新的脚本文件,例如 `run_spark_app.sh`,并添加以下内容:
```bash
#!/bin/bash
# 切换到应用程序所在的目录
cd /path/to/app/directory
# 提交应用程序
/path/to/spark-submit /path/to/app.py
```
其中,`/path/to/app/directory` 表示应用程序所在的目录,`/path/to/spark-submit` 表示 `spark-submit` 命令的路径,`/path/to/app.py` 表示要提交的应用程序的路径。
2. 将脚本文件设置为可执行文件,使用以下命令:
```
chmod +x run_spark_app.sh
```
3. 打开终端并输入 `crontab -e` 命令,打开 crontab 编辑器。
4. 在编辑器中添加一个新的定时任务。例如,要每天早上 6 点调用 `run_spark_app.sh` 脚本文件,在编辑器中添加以下行:
```
0 6 * * * /path/to/run_spark_app.sh
```
其中,`0 6 * * *` 表示每天早上 6 点,`/path/to/run_spark_app.sh` 表示要调用的脚本文件的路径。
5. 保存并退出编辑器。
现在,Linux 系统将每天早上 6 点自动调用 `run_spark_app.sh` 脚本文件来提交应用程序。如果需要调用其他应用程序,只需将应用程序路径替换为所需应用程序的路径即可。
阅读全文