Groovy スクリプト Spark ジョブの使用
-
静的メソッド
getInstance()
を使用して、DataIntegrationFactory
のインスタンスを作成します。 -
Groovy スクリプト ジョブの入力と出力の詳細を指定します。以下の手順に従って、
ProcessType
を指定するCustomGroovyScriptDetail
のインスタンスを作成することによって、これを行います。このインスタンスは、SparkProcessTypeを使用する必要があります。CustomGroovyScriptDetail
インスタンスを作成および設定するには、次の手順を実行します。-
ProcessType
に SparkProcessType を指定して、CustomGroovyScriptDetail
のインスタンスを作成します。このインスタンスに次の詳細を設定します。- 入力ファイル:
inputPath
フィールドを使用注:- テキスト入力ファイルの場合は、適切なコンストラクタを呼び出して、関連する詳細な入力ファイル情報を指定して
FilePath
のインスタンスを作成します。 - ORC 入力ファイルの場合、ORC 入力ファイルのパスを引数に指定して
OrcFilePath
のインスタンスを作成します。 - PARQUET 入力ファイルの場合、PARQUET 入力ファイルのパスを引数に指定して ParquetFilePath のインスタンスを作成します。
- テキスト入力ファイルの場合は、適切なコンストラクタを呼び出して、関連する詳細な入力ファイル情報を指定して
- 出力ファイル:
outputPath
フィールドを使用注:- テキスト出力ファイルの場合は、適切なコンストラクタを呼び出して、関連する詳細な出力ファイル情報を指定して
FilePath
のインスタンスを作成します。 - ORC 出力ファイルの場合、ORC 出力ファイルのパスを引数に指定して
OrcFilePath
のインスタンスを作成します。 -
PARQUET 出力ファイルの場合、PARQUET 出力ファイルのパスを引数に指定して ParquetFilePath のインスタンスを作成します。
- テキスト出力ファイルの場合は、適切なコンストラクタを呼び出して、関連する詳細な出力ファイル情報を指定して
- ジョブの名前:
jobName
フィールドを使用 - 日付パターン:
M/d/yy
- 日時パターン:
M/d/yy h:mm a
- 時刻パターン:
h:mm a
- 入力ファイル:
-
CustomGroovyScriptConfiguration
のインスタンスを作成し、次の詳細を設定します。- The groovyScriptFile
- InputFields
- OutputFields
-
getScriptTransformerConfiguration()
メソッドを使用してconfiguration
を作成します。このメソッドは、上で作成および設定したCustomGroovyScriptConfiguration
のインスタンスのリストを呼び出します。
-
-
Spark ジョブを作成するには、先ほど作成した
DataIntegrationFactory
のインスタンスを使用してそのメソッドrunSparkJob()
を呼び出します。ここで、JoinDetail
インスタンスを引数として渡します。runSparkJob()
メソッドはジョブを作成し、map
インスタンスのControlledJob
を返します。