目次

Search

  1. はじめに
  2. 詳細クラスタ
  3. AWSの設定
  4. Google Cloudの設定
  5. Microsoft Azureの設定
  6. セルフサービスクラスタの設定
  7. ローカルクラスタの設定
  8. 詳細設定
  9. トラブルシューティング
  10. 付録 A: コマンドリファレンス

詳細クラスタ

詳細クラスタ

リソース要件の再設定

リソース要件の再設定

デフォルトの要件を満たすための十分なリソースを用意できない場合は、一部の要件を再設定できます。
以下のコンポーネントの要件を再設定できます。
Sparkシャッフルサービス
シャッフルサービスを無効にすると、
Sparkエンジン
で動的割り当てを使用出来なくなります。詳細については、Informaticaグローバルカスタマサポートにお問い合わせください。
Sparkドライバ
Sparkドライバのメモリ量を再設定するには、
マッピング
タスクでSparkセッションプロパティ
spark.driver.memory
を使用します。GB単位でメモリを設定する場合は、「2G」などの値を使用します。MB単位でメモリを設定する場合は、「1500m」などの値を使用します。
SparkドライバのCPU要件の再設定の詳細については、Informaticaグローバルカスタマサポートにお問い合わせください。
Spark Executor
Spark Executorのメモリ量を再設定するには、
マッピング
タスクでSparkセッションプロパティ
spark.executor.memory
を使用します。Sparkドライバのメモリ値と同様に、メモリをGBまたはMB単位で指定できます。
また、Sparkセッションプロパティ
spark.executor.cores
を使用してSpark Executorコアの数を変更することもできます。GPU対応クラスタのデフォルトのコア数は4です。他のすべてのクラスタのデフォルトのコア数は2です。
コア数を編集する場合は、同時に実行するSparkタスクの数を変更します。例えば、spark.executor.cores=2と設定すると、2つのSparkタスクを各Spark Executor内部で同時に実行できます。
Spark ExecutorのCPU要件の再設定の詳細については、Informaticaグローバルカスタマサポートにお問い合わせください。
SparkドライバおよびSpark Executorに対して設定したメモリが少なすぎると、これらのコンポーネントでOutOfMemoryExceptionが発生する場合があります。
Kubernetesシステムのリソース要件を編集することはできません。リソースは、機能的なKubernetesシステムを維持するために必要です。
Sparkセッションプロパティの詳細については、データ統合のヘルプの「
タスク
」を参照してください。