Inhaltsverzeichnis

Search

  1. Vorwort
  2. Teil 1: Version 10.5.1
  3. Teil 2: Versionen 10.5-10.5.0.1
  4. Teil 3: Versionen 10.4.1-10.4.1.3
  5. Teil 4: Versionen 10.4-10.4.0.2
  6. Teil 5: Versionen 10.2.2 - 10.2.2 HotFix 1
  7. Teil 6: Version 10.2.1
  8. Teil 7: Version 10.2 - 10.2 HotFix 2

Neue Funktionen und Änderungen (10.5.1)

Neue Funktionen und Änderungen (10.5.1)

Hadoop-Verbindung

Hadoop-Verbindung

Ab Version 10.2 wirken sich die folgenden Änderungen auf die Hadoop-Verbindungseigenschaften aus.
Sie können die folgenden Eigenschaften verwenden, um Ihre Hadoop-Verbindung zu konfigurieren:
Eigenschaft
Beschreibung
Clusterkonfiguration
Der Name der mit der Hadoop-Umgebung verknüpften Clusterkonfiguration.
Wird in „Allgemeine Eigenschaften“ angezeigt.
Ablehnungsdateien in Hadoop schreiben
Wählen Sie die Eigenschaft aus, um die Ablehnungsdateien an den HDFS-Speicherort zu verschieben, der in der Eigenschaft „Verzeichnis der Ablehnungsdatei“ aufgelistet wird, wenn Sie Zuordnungen ausführen.
Wird in „Ablehnungsverzeichnis-Eigenschaften“ angezeigt.
Ablehnungsdateiverzeichnis
Das Verzeichnis für Hadoop-Mapping-Dateien auf HDFS, wenn Sie Zuordnungen ausführen.
Wird in „Ablehnungsverzeichnis-Eigenschaften“ angezeigt.
Adresse der Blaze-Job-Überwachung
Der Hostname und die Portnummer für die Blaze-Job-Überwachung.
Wird in „Blaze-Konfiguration“ angezeigt.
Name der YARN-Warteschlange
Der von der Spark-Engine verwendete Name der YARN-Scheduler-Warteschlange, der verfügbare Ressourcen auf einem Cluster angibt.
Wird in „Blaze-Konfiguration“ angezeigt.
Ab Version 10.2 werden die folgenden Eigenschaften umbenannt:
Aktueller Name
Früherer Name
Beschreibung
ImpersonationUserName
HiveUserName
Hadoop-Identitätswechselbenutzer. Der Benutzername, den der Datenintegrationsdienst annimmt, um Zuordnungen in der Hadoop-Umgebung auszuführen.
Name der Hive-Staging-Datenbank
Datenbankname
Namespace für Hive-Staging-Tabellen.
Wird in „Allgemeine Eigenschaften“ angezeigt.
Wurde bislang in „Hive-Eigenschaften“ angezeigt.
HiveWarehouseDirectory
HiveWarehouseDirectoryOnHDFS
Der absolute HDFS-Dateipfad der Standarddatenbank für das lokale Cluster-Warehouse.
Blaze-Staging-Verzeichnis
Temporäres Arbeitsverzeichnis auf HDFS
CadiWorkingDirectory
Der HDFS-Dateipfad des Verzeichnisses, das von der Blaze-Engine zum Speichern temporärer Dateien verwendet wird.
Wird in „Blaze-Konfiguration“ angezeigt.
Blaze-Benutzername
Benutzername des Blaze-Diensts
CadiUserName
Der Besitzer des Blaze-Diensts und der Blaze-Dienstprotokolle.
Wird in „Blaze-Konfiguration“ angezeigt.
Name der YARN-Warteschlange
Name der Yarn-Warteschlange
CadiAppYarnQueueName
Der von der Blaze-Engine verwendete Warteschlangenname des YARN-Schedulers, der verfügbare Ressourcen auf einem Cluster angibt.
Wird in „Blaze-Konfiguration“ angezeigt.
BlazeMaxPort
CadiMaxPort
Der Maximalwert für den Portnummernbereich der Blaze-Engine.
BlazeMinPort
CadiMinPort
Der Minimalwert für den Portnummernbereich der Blaze-Engine.
BlazeExecutionParameterList
CadiExecutionParameterList
Eine optionale Liste der Konfigurationsparameter, die auf die Blaze-Engine angewendet werden sollen.
SparkYarnQueueName
YarnQueueName
Der von der Spark-Engine verwendete Name der YARN-Scheduler-Warteschlange, der verfügbare Ressourcen auf einem Cluster angibt.
Spark-Staging-Verzeichnis
Spark-HDFS-Staging-Verzeichnis
Der HDFS-Dateipfad des Verzeichnisses, das von der Spark-Engine zum Speichern temporärer Dateien für die Ausführung von Jobs verwendet wird.
Ab Version 10.2 werden die folgenden Eigenschaften aus der Verbindung entfernt und in die Clusterkonfiguration importiert:
Eigenschaft
Beschreibung
Adresse des Ressourcenmanagers
Der Dienst innerhalb von Hadoop, der Ressourcenanfragen übermittelt und YARN-Anwendungen erzeugt.
Als
yarn.resourcemanager.address
in die Clusterkonfiguration importiert.
Wurde bislang in Hadoop-Cluster-Eigenschaften angezeigt.
URI des Standarddateisystems
Die URI für den Zugriff auf das verteilte Standard-Hadoop-Dateisystem.
Als Eigenschaft
fs.defaultFS
oder
fs.default.name
in die Clusterkonfiguration importiert.
Wurde bislang in Hadoop-Cluster-Eigenschaften angezeigt.
Ab Version 10.2 sind die folgenden Eigenschaften veraltet und werden aus der Verbindung entfernt:
Eigenschaft
Beschreibung
Typ
Der Verbindungstyp.
Wurde bislang in „Allgemeine Eigenschaften“ angezeigt.
Metastore-Ausführungsmodus*
Steuert, ob eine Verbindung zu einem Remote-Metastore oder einem lokalen Metastore hergestellt wird.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
Metastore-Datenbank-URI*
Die JDBC-Verbindungs-URI zum Zugriff auf den Datenspeicher in einer lokalen Metastore-Einrichtung.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
Metastore-Datenbanktreiber*
Treiberklassenname für den JDBC-Datenspeicher.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
Benutzername der Metastore-Datenbank*
Der Benutzername der Metastore-Datenbank.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
Metastore-Datenbankpasswort*
Das Passwort für den Metastore-Benutzernamen.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
Remote-Metastore-URI*
Die Metastore-URI, die für den Zugriff auf Metadaten in einer Remote-Metastore-Einrichtung verwendet wird.
Diese Eigenschaft wird als Eigenschaft
hive.metastore.uris
in die Clusterkonfiguration importiert.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
Jobüberwachungs-URL
Die URL für den JobHistory-Server unter MapReduce.
Wurde bislang in „Hive-Konfiguration“ angezeigt.
* Diese Eigenschaften sind in 10.2 veraltet. Wenn Sie auf 10.2 aktualisieren, werden die Eigenschaftswerte, die Sie in einer früheren Version festgelegt haben, im Repository gespeichert, sie werden jedoch nicht in den Verbindungseigenschaften angezeigt.