Sparkのマルチバージョンの問題:Sparkの複数のバージョンがインストールされていますが、SPARK_MAJOR_VERSIONが設定されていません



Spark Multi Version Problems



まず、問題の背景

記述されたSparkジョブを送信するためのシェルスクリプト(spark-submit ...)、中間統合スクリプトとしてのシェルスクリプトBはスクリプトAを呼び出しますが、ジョブはyarnを送信しませんでした。ログ情報を表示するには、次のようにします。

Sparkの複数のバージョンがインストールされていますが、SPARK_MAJOR_VERSIONが設定されていません



第二に、分析プロセス

1.Sparkの現在のバージョンを確認します

spark-submit --version

2.デフォルトバージョンのSparkを設定します

export SPARK_MAJOR_VERSION=2



3.スパークシェルを開始します

Sparkのバージョン1.xを設定する

Sparkの2.xバージョンを設定します