ETL und ELT
ETL und ELT beschreiben den Weg von Rohdaten zum Datenmodell.
Extract bedeutet, Daten aus Quellen zu lesen. Transform bedeutet, Daten zu bereinigen, zu verbinden und fachlich zu ordnen. Load bedeutet, Daten in ein Zielsystem wie BigQuery oder ein anderes Data Warehouse zu schreiben.
Bei ETL geschieht die Transformation vor dem Laden. Bei ELT werden Rohdaten zuerst in das Warehouse geladen und dort modelliert. Moderne Cloud Data Warehouses machen ELT häufig naheliegend, weil Rohdaten historisiert und Transformationen wiederholbar ausgeführt werden können.
API-Daten, Shop-Daten, Marketingplattformen, Produktdaten, Bestelldaten und externe Datenquellen werden aus Ursprungssystemen geholt.
Felder, IDs, Zeiträume, Statuswerte, Währungen, Kanalregeln, Datenqualität und Business-Logik werden nachvollziehbar verarbeitet.
Rohdaten, Zwischentabellen oder modellierte Tabellen werden in BigQuery, ein Data Warehouse oder ein anderes Ziel geladen.