目次

Search

  1. はじめに
  2. Snowflake Data Cloud Connectorの概要
  3. Snowflake Data Cloudへの接続
  4. Snowflake Data Cloudのマッピング
  5. Snowflake Data Cloudのソース
  6. Snowflake Data Cloudのターゲット
  7. Snowflake Data Cloudのルックアップ
  8. プッシュダウンの最適化
  9. Snowflake Data Cloud接続を使用したプッシュダウンの最適化(SQL ELT)
  10. マッピングの移行
  11. 付録 A: データ型リファレンス
  12. 付録 B: 追加のランタイム設定
  13. 付録 C: Snowflake Data Cloud Connectorへのアップグレード

Snowflake Data Cloud Connector

Snowflake Data Cloud Connector

バッチサイズとローカルステージングファイルの数の設定

バッチサイズとローカルステージングファイルの数の設定

Snowflakeにデータの書き込みを行うマッピングで最適なパフォーマンスを実現するには、マッピングが処理するデータ量に基づいて、バッチサイズおよびローカルステージングファイルの数にデフォルト値が考慮されるようにします。値を設定する必要がある場合以外は、デフォルト値を使用してマッピングを処理することをお勧めします。
どちらのしきい値に先に到達したかによって、マッピングでのこれらの2つの設定の優先度が決定されます。指定したバッチ行サイズに到達する前にマッピングがローカルステージングファイルの数の基準を満たした場合は、そのしきい値に先に到達するため、ローカルステージングファイルの数が優先されます。
例として、指定したバッチサイズに対するさまざまな設定に発行される挿入コマンドの数と、Snowflakeへの書き込み操作でのローカルステージングファイルの数を示した次の表を参照してください。
ソース行の数
行サイズ
デフォルトのファイルサイズ
バッチサイズ
ローカルステージングファイルの数
挿入の数
4
52019206バイト
52428800バイト
4
1
2
4
52019206 バイト
52428800 バイト
4
設定されていません。64というデフォルト値が考慮されます。
1
4
52019206 バイト
52428800 バイト
1
設定されていません。64というデフォルト値が考慮されます。
4
4
52019206 バイト
52428800 バイト
3
1
2
5
52019206 バイト
52428800 バイト
1
1
4
シナリオ1: バッチ行サイズが4で、ローカルステージングファイルの数が1である場合。
バッチ行サイズが4で、ローカルステージングファイルが1つである場合は、データの処理時にSnowflakeで2つの挿入ステートメントが実行されます。
行が2つあり、ファイルサイズがデフォルトの50 MBを超えると、次の受信行に新しいファイルが作成されます。ローカルステージングファイルの数が1に設定されている場合、ステージには最大1つのファイルが保持されます。したがって、2つのステージが作成され、それぞれに2行の1つのファイルが保持されます。各ファイルサイズは104038412バイト、つまり1行あたり52019206バイトです。各ステージごとに挿入コマンドが発行され、2つの挿入コマンドが生成されます。
シナリオ2: バッチ行サイズが4で、ローカルステージングファイルの数の値が設定されていない場合。
ローカルステージングファイルの64というデフォルト値を使用して、マッピングでは、ローカルステージングファイルのしきい値に到達しない場合のバッチサイズが考慮されます。
シナリオ3: バッチ行サイズが1で、ローカルステージングファイルの数の値が設定されていない場合。
バッチ行サイズが1で、特定のローカルステージングファイル値が設定されていない場合、ステージングファイルのしきい値に到達しないため、マッピングは4つの行に対して4つの挿入ステートメントを発行します。
シナリオ4: バッチ行サイズが3で、ローカルステージングファイルの数の値が1である場合。
バッチ行サイズ3と1つのローカルステージングファイルを使用して、マッピングは、第1段階で2行、第2段階で1行を処理した後に、2つの挿入コマンドを発行します。
シナリオ5: バッチの行サイズが1で、ローカルステージングファイルの数の値が1である場合。
バッチ行サイズが1でローカルステージングファイルが1つである場合、行サイズが小さく、ステージングファイルのしきい値に到達しないため、行ごとに4つの挿入コマンドが個別に発行されます。