Casa Finanza personale Il ruolo dell'ETL tradizionale nei Big Data - manichini

Il ruolo dell'ETL tradizionale nei Big Data - manichini

Video: Developer Keynote: Get to the Fun Part (Cloud Next '19) 2025

Video: Developer Keynote: Get to the Fun Part (Cloud Next '19) 2025
Anonim

Gli strumenti ETL combinano tre funzioni importanti (estrazione, trasformazione, caricamento) necessarie per ottenere dati da un ambiente di Big Data e metterlo in un altro ambiente di dati. Tradizionalmente, ETL è stato utilizzato con l'elaborazione batch in ambienti di data warehouse. I data warehouse forniscono agli utenti aziendali un modo per consolidare le informazioni per analizzare e generare report sui dati rilevanti per il loro focus aziendale. Gli strumenti ETL vengono utilizzati per trasformare i dati nel formato richiesto dai data warehouse.

La trasformazione viene effettivamente eseguita in una posizione intermedia prima che i dati vengano caricati nel data warehouse. Molti fornitori di software, tra cui IBM, Informatica, Pervasive, Talend e Pentaho, forniscono strumenti software ETL.

ETL fornisce l'infrastruttura sottostante per l'integrazione eseguendo tre importanti funzioni:

  • Estrai: Leggi i dati dal database di origine.

  • Trasforma: Converti il ​​formato dei dati estratti in modo che sia conforme ai requisiti del database di destinazione. La trasformazione viene eseguita utilizzando le regole o unendo i dati con altri dati.

  • Carica: Scrive i dati nel database di destinazione.

Tuttavia, ETL si sta evolvendo per supportare l'integrazione su molto più dei tradizionali data warehouse. ETL può supportare l'integrazione tra sistemi transazionali, archivi di dati operativi, piattaforme BI, hub MDM, cloud e piattaforme Hadoop. I fornitori di software ETL stanno estendendo le loro soluzioni per fornire l'estrazione, la trasformazione e il caricamento di grandi quantità di dati tra Hadoop e le piattaforme di gestione dati tradizionali.

ETL e strumenti software per altri processi di integrazione dei dati come la pulizia, la profilazione e l'auditing dei dati lavorano su diversi aspetti dei dati per garantire che i dati siano considerati attendibili. Gli strumenti ETL si integrano con strumenti di qualità dei dati e molti strumenti incorporati per la pulizia dei dati, la mappatura dei dati e l'identificazione della discendenza dei dati. Con ETL, estrai solo i dati necessari per l'integrazione.

Gli strumenti ETL sono necessari per il caricamento e la conversione di dati strutturati e non strutturati in Hadoop. Gli strumenti ETL avanzati possono leggere e scrivere più file in parallelo da e verso Hadoop per semplificare il modo in cui i dati vengono uniti in un processo di trasformazione comune. Alcune soluzioni incorporano librerie di trasformazioni ETL predefinite per i dati di transazione e interazione eseguiti su Hadoop o un'infrastruttura di rete tradizionale.

La trasformazione dei dati è il processo di modifica del formato dei dati in modo che possa essere utilizzato da diverse applicazioni.Ciò può significare una modifica dal formato in cui i dati sono archiviati nel formato richiesto dall'applicazione che utilizzerà i dati. Questo processo include anche mappatura istruzioni in modo che alle applicazioni venga detto come ottenere i dati di cui hanno bisogno per elaborare.

Il processo di trasformazione dei dati è reso molto più complesso a causa della crescita sbalorditiva nella quantità di dati non strutturati. Un'applicazione aziendale come la gestione delle relazioni con i clienti ha requisiti specifici per la modalità di archiviazione dei dati. È probabile che i dati siano strutturati nelle righe e nelle colonne organizzate di un database relazionale. I dati sono semistrutturati o non strutturati se non seguono requisiti di formato rigidi.

Le informazioni contenute in un messaggio di posta elettronica sono considerate non strutturate, ad esempio. Alcune delle informazioni più importanti di un'azienda sono in forme non strutturate e semi-strutturate come documenti, messaggi di posta elettronica, formati di messaggistica complessi, interazioni con il servizio clienti, transazioni e informazioni provenienti da applicazioni pacchettizzate come ERP e CRM.

Gli strumenti di trasformazione dei dati non sono progettati per funzionare correttamente con i dati non strutturati. Di conseguenza, le aziende che hanno bisogno di incorporare informazioni non strutturate nel processo decisionale dei processi aziendali hanno dovuto affrontare una quantità significativa di codice manuale per realizzare l'integrazione dei dati richiesta.

Data la crescita e l'importanza dei dati non strutturati per il processo decisionale, le soluzioni ETL dei principali fornitori stanno iniziando ad offrire approcci standardizzati per trasformare i dati non strutturati in modo che possano essere integrati più facilmente con i dati strutturati operativi.

Il ruolo dell'ETL tradizionale nei Big Data - manichini

Scelta dell'editore

Il programma in cinque passaggi per superare la menopausa - dummy

Il programma in cinque passaggi per superare la menopausa - dummy

Alcune donne capiscono a malapena che la menopausa è loro. Altre donne, tuttavia, sono meno fortunate. Se sei uno di questi, prendi in mano questi pochi modi per rendere la tua esperienza più facile per te stesso: capisci e accetta che stai attraversando una transizione naturale, proprio come la pubertà. Fortunatamente, sei più vecchio e più saggio di te ...

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa segna la fine della fase riproduttiva della tua vita e così è un momento significativo di cambiamento fisico, emotivo e mentale per molte donne ma, per generazioni, donne di tutte le età hanno vagato alla cieca in menopausa senza sapere cosa aspettarsi. Qui puoi scoprire alcune delle nozioni di base.

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Mestruazioni e menopausa sono ben noti biologici pietre miliari nella vita di una femmina. Contrariamente al pensiero popolare, la menopausa non è il periodo di mesi o anni in cui una donna sta "attraversando il cambiamento". "Questo lasso di tempo è chiamato perimenopausa. La menopausa è una data effettiva nel tempo. In particolare, è il 12 ° anniversario dell'ultimo ciclo mestruale di una donna. ...

Scelta dell'editore

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

È Possibile creare un filtro automatico personalizzato . Per fare ciò, seleziona il comando Filtro testo dal menu della tabella e scegli una delle opzioni di filtro del testo. Indipendentemente dall'opzione di filtro del testo selezionata, Excel visualizza la finestra di dialogo Filtro automatico personalizzato. Questa finestra di dialogo consente di specificare con estrema precisione quali record si desidera ...

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

DPRODUCT moltiplica i valori che corrispondono al criterio in un database Excel. Questo è potente ma anche in grado di produrre risultati che non sono l'intenzione. In altre parole, è una cosa da aggiungere e ricavare una somma. Questa è un'operazione comune su un set di dati. Osservando la seguente figura, è possibile ...

Come utilizzare la funzione DPRODUCT in Excel - dummy

Come utilizzare la funzione DPRODUCT in Excel - dummy

La funzione DPRODUCT in Excel è strana. La funzione DPRODUCT moltiplica i valori nei campi da un elenco di database in base ai criteri di selezione. Perché vorresti farlo? Chissà. La funzione utilizza la sintassi = DPRODUCT (database, campo, criteri) in cui il database è un riferimento all'intervallo alla tabella di Excel che contiene il valore desiderato ...

Scelta dell'editore

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Ci sono un paio di cose a cui vuoi pensare quando riutilizzi i nomi nella tua app per Android. È possibile dichiarare due variabili Java - bag1 e bag2 - per fare riferimento a due diversi oggetti BagOfCheese. Va bene. Ma a volte, avere solo una variabile e riutilizzarla per il secondo oggetto funziona altrettanto bene, ...

Java: Mettere a frutto l'uso della classe - dummies

Java: Mettere a frutto l'uso della classe - dummies

La classe Employee nell'elenco non ha alcun metodo principale , quindi non c'è un punto di partenza per l'esecuzione del codice. Per risolvere questo problema, il programmatore scrive un programma separato con un metodo principale e utilizza tale programma per creare istanze Employee. Questo elenco di codici mostra una classe con un metodo principale - uno che inserisce il ...

Classi wrapper java - dummies

Classi wrapper java - dummies

La differenza tra tipi primitivi e tipi di riferimento è una delle funzionalità più controverse di Java e gli sviluppatori si lamentano spesso sulle differenze tra valori primitivi e valori di riferimento. Ogni tipo primitivo viene cotto nella lingua. Java ha otto tipi primitivi. Ogni tipo di riferimento è una classe o un'interfaccia. È possibile definire il proprio ...