spark on yarn exitCode: -104

Spark on YARN 的 exitCode -104 通常表示运行 Spark 应用程序的 YARN 容器已经耗尽了内存。这可能是由于 YARN 内存设置不正确、YARN 分配的资源不足或者 Spark 应用程序使用过多内存等各种原因导致的。

为了解决这个问题，你可以尝试以下步骤：

1. 通过更新 yarn-site.xml 文件来增加 YARN 容器的内存分配。你可以增加 yarn.nodemanager.resource.memory-mb 和 yarn.scheduler.minimum-allocation-mb 的值来为 YARN 分配更多的内存。

2. 检查 YARN 集群上的资源可用性，确保 YARN 分配了足够的资源。

3. 通过调整 Spark 配置参数（如 spark.driver.memory、spark.executor.memory 和 spark.memory.fraction）来优化 Spark 应用程序的内存使用。

4. 监控 YARN 日志和 Spark 应用程序日志，以查找内存问题的根本原因，并采取适当的措施。

如果这些步骤都不起作用，你可能需要考虑扩大 YARN 集群的规模或者优化 Spark 应用程序代码以更好地管理内存。