spark2 屏蔽 org.apache.parquet.hadoop.codec.SnappyDecompressor.decompress
时间: 2023-07-20 19:43:02 浏览: 175
spark-2.2.0-bin-hadoop2.7
您好!我了解您的问题。如果您想在 Apache Spark 2 中屏蔽 `org.apache.parquet.hadoop.codec.SnappyDecompressor.decompress`,您可以通过在 Spark 配置文件中添加以下属性来实现:
```
spark.executor.extraJavaOptions=-Dio.netty.tryReflectionSetAccessible=true
```
这将启用 Spark 的 Netty 库来反射访问受保护的字段和方法,从而避免使用 Snappy 解压缩器。请注意,这可能会对性能产生一定影响,因此请谨慎使用。
希望这可以回答您的问题!如果您有任何其他问题,请随时问我。
阅读全文