前言
隨著企業內部業務系統越來越多，基於JVM的服務，通常情況線上環境可能會有多套JDK跑不同的服務。大家都知道基於高版本的Java規範編寫的服務跑在低版本的JVM上會出現： java.lang.UnsupportedClassVersionError的異常。
Spark 2.2開始移除了對Java 7的支持，大多數情況下，我們的Spark Application是和Hadoop系統公用的JDK，如果Hadoop依賴的JDK版本是7，那我們基於JDK 8編寫的Application跑在上面就會出問題。
該文主要介紹在不同的場景下，如何為Spark Application指定不同的JDK版本。
集群已部署了指定的JDK版本
假設集群中每個節點JDK的部署路徑為：/usr/java/jdk1.8
Spark提供了spark.executorEnv.[EnvironmentVariableName]配置，可以用來給Executor進程添加環境變量，如果Spark Application使用的集群管理器是Standalone，只需要通過spark.executorEnv.JAVA_HOME制定Executor端的jdk路徑即可，如下：
$SPARK_HOME/bin/spark-submit / --conf "spark.executorEnv.JAVA_HOME=/usr/java/jdk1.8" / ...
在YARN模式下，還需要為Application Master指定不同的JAVA_HOME環境變量，如下：
$SPARK_HOME/bin/spark-submit / --conf "spark.executorEnv.JAVA_HOME=/usr/java/jdk1.8" / --conf "spark.yarn.appMasterEnv.JAVA_HOME=/usr/java/jdk1.8" / ...
以cluster的方式部署在YARN上的時候， spark.yarn.appMasterEnv.JAVA_HOME相當於為Spark Application的Driver設置了特定的JDK版本；
以client的模式部署時， spark.yarn.appMasterEnv.JAVA_HOME僅僅是為Executor Launcher設置了特定的JDK版本。
Driver端的JDK版本和spark-submit所在的機器中的SPARK_HOME環境變量一致，直接在spark-env.sh中指定即可。
集群缺失特定的JDK版本，且對集群無管理權限
某些特殊的場景下，我們對集群沒有管理權限，只能通過YARN提交Application，並且集群裡沒有部署我們需要的JDK版本，這種情形就需要將JDK的安裝包也一併提交了。
這裡要求我們的JDK安裝包必須為gz格式的，和你代碼打包後的jar包放在同一目錄下，假設我們下載的JDK的安裝包為：jdk-8u141-linux-x64.tar.gz。
关键配置如下：
$SPARK_HOME/bin/spark-submit / --conf "spark.yarn.dist.archives=jdk-8u141-linux-x64.tar.gz" / --conf "spark.executorEnv.JAVA_HOME=./jdk-8u141-linux-x64.tar.gz/jdk1.8.0_141" / --conf "spark.yarn.appMasterEnv.JAVA_HOME=./jdk-8u141-linux-x64.tar.gz/jdk1.8.0_141" / ...
我們可以通過指定spark.yarn.dist.archives配置，將JDK的安裝包分發到所有Executor的工作目錄下（包括Application Master的Executor），另外tar.gz的壓縮包也會被自動解壓，假設jdk-8u141-linux-x64.tar.gz解壓後的目錄為jdk1.8.0_141，那麼我們特定的JDK的目錄就是：./jdk-8u141-linux-x64.tar.gz/jdk1.8.0_141，不同的JDK版本以此類推即可。
注意：由於Spark Standalone沒有提供分發JDK安裝包並自動解壓的功能，所以，這種方式只能用在YARN下。
驗證
通過ps -ef grep查詢相關進程信息，可以看到java的啟動路徑為我們特定JDK目錄的java表示配置成功。
如下是我在YARN模式下，單獨指定JDK版本的Executor的進程啟動信息：
stan 590751 590745 0 20:45 ? 00:00:14 ./jdk-8u141-linux-x64.tar.gz/jdk1.8.0_141/bin/java -server -Xmx512m -XX:+UseG1GC -XX:+UnlockDiagnosticVMOptions -XX:+G1SummarizeConcMark -XX:InitiatingHeapOccupancyPercent=35 -XX:PermSize=256M -XX:+PrintGCDetails -XX:+PrintGCDateStamps -Xloggc:./gc.log -verbose:gc -Djava.io.tmpdir=/home/stan/tmp/hadoop-stan/nm-local-dir/usercache/stan/appcache/application_1508397483453_0095/container_1508397483453_0095_01_000004/tmp -Dspark.driver.port=52986 -Dspark.yarn.app.container.log.dir=/home/stan//hadoop-2.6.4/logs/userlogs/application_1508397483453_0095/container_1508397483453_0095_01_000004 -XX:OnOutOfMemoryError=kill %p org.apache.spark.executor.CoarseGrainedExecutorBackend --driver-url spark://[email protected]:52986 --executor-id 3 --hostname stan --cores 1 --app-id application_1508397483453_0095 --user-class-path file:/home/stan/tmp/hadoop-stan/nm-local-dir/usercache/stan/appcache/application_1508397483453_0095/container_1508397483453_0095_01_000004/__app__.jar
附：spark application運行時版本不兼容錯誤的解決方法
17/06/27 14:34:41 INFO deprecation: mapred.map.tasks is deprecated. Instead, use mapreduce.job.maps 17/06/27 14:34:41 INFO MemoryStore: Block broadcast_0 stored as values in memory (estimated size 788.8 KB, free 1246.5 MB) 17/06/27 14:34:41 INFO MemoryStore: Block broadcast_0_piece0 stored as bytes in memory (estimated size 54.0 KB, free 1246.4 MB) 17/06/27 14:34:41 INFO BlockManagerInfo: Added broadcast_0_piece0 in memory on 10.50.70.121:37335 (size: 54.0 KB, free: 1247.2 MB) 17/06/27 14:34:41 INFO SparkContext: Created broadcast 0 from rdd at TradeInfoOutlier.scala:30 Exception in thread "main" java.lang.NoSuchMethodError: scala.reflect.api.JavaUniverse.runtimeMirror(Ljava/lang/ClassLoader;)Lscala/reflect/api/JavaUniverse$JavaMirror; at com.fangdd.data.profile.outlier.TradeInfoOutlier$.main(TradeInfoOutlier.scala:30) at com.fangdd.data.profile.outlier.TradeInfoOutlier.main(TradeInfoOutlier.scala) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:498) at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:745) at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:181) at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:206) at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:121) at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala) 17/06/27 14:34:42 INFO SparkContext: Invoking stop() from shutdown hook
這種錯誤是由於生產環境採用的是scala 2.10 + spark1.6.3的運行環境，本地打的application jar使用scala2.11 + spark.1.6.3的編譯環境，所以放入生產環境集群報了上述錯誤，更改scala版本重新打jar包後運行成功
總結
以上就是這篇文章的全部內容了，希望本文的內容對大家的學習或者工作具有一定的參考學習價值，如果有疑問大家可以留言交流，謝謝大家對武林網的支持。