Casa Finanza personale Il ruolo dell'ETL tradizionale nei Big Data - manichini

Il ruolo dell'ETL tradizionale nei Big Data - manichini

Video: Developer Keynote: Get to the Fun Part (Cloud Next '19) 2025

Video: Developer Keynote: Get to the Fun Part (Cloud Next '19) 2025
Anonim

Gli strumenti ETL combinano tre funzioni importanti (estrazione, trasformazione, caricamento) necessarie per ottenere dati da un ambiente di Big Data e metterlo in un altro ambiente di dati. Tradizionalmente, ETL è stato utilizzato con l'elaborazione batch in ambienti di data warehouse. I data warehouse forniscono agli utenti aziendali un modo per consolidare le informazioni per analizzare e generare report sui dati rilevanti per il loro focus aziendale. Gli strumenti ETL vengono utilizzati per trasformare i dati nel formato richiesto dai data warehouse.

La trasformazione viene effettivamente eseguita in una posizione intermedia prima che i dati vengano caricati nel data warehouse. Molti fornitori di software, tra cui IBM, Informatica, Pervasive, Talend e Pentaho, forniscono strumenti software ETL.

ETL fornisce l'infrastruttura sottostante per l'integrazione eseguendo tre importanti funzioni:

  • Estrai: Leggi i dati dal database di origine.

  • Trasforma: Converti il ​​formato dei dati estratti in modo che sia conforme ai requisiti del database di destinazione. La trasformazione viene eseguita utilizzando le regole o unendo i dati con altri dati.

  • Carica: Scrive i dati nel database di destinazione.

Tuttavia, ETL si sta evolvendo per supportare l'integrazione su molto più dei tradizionali data warehouse. ETL può supportare l'integrazione tra sistemi transazionali, archivi di dati operativi, piattaforme BI, hub MDM, cloud e piattaforme Hadoop. I fornitori di software ETL stanno estendendo le loro soluzioni per fornire l'estrazione, la trasformazione e il caricamento di grandi quantità di dati tra Hadoop e le piattaforme di gestione dati tradizionali.

ETL e strumenti software per altri processi di integrazione dei dati come la pulizia, la profilazione e l'auditing dei dati lavorano su diversi aspetti dei dati per garantire che i dati siano considerati attendibili. Gli strumenti ETL si integrano con strumenti di qualità dei dati e molti strumenti incorporati per la pulizia dei dati, la mappatura dei dati e l'identificazione della discendenza dei dati. Con ETL, estrai solo i dati necessari per l'integrazione.

Gli strumenti ETL sono necessari per il caricamento e la conversione di dati strutturati e non strutturati in Hadoop. Gli strumenti ETL avanzati possono leggere e scrivere più file in parallelo da e verso Hadoop per semplificare il modo in cui i dati vengono uniti in un processo di trasformazione comune. Alcune soluzioni incorporano librerie di trasformazioni ETL predefinite per i dati di transazione e interazione eseguiti su Hadoop o un'infrastruttura di rete tradizionale.

La trasformazione dei dati è il processo di modifica del formato dei dati in modo che possa essere utilizzato da diverse applicazioni.Ciò può significare una modifica dal formato in cui i dati sono archiviati nel formato richiesto dall'applicazione che utilizzerà i dati. Questo processo include anche mappatura istruzioni in modo che alle applicazioni venga detto come ottenere i dati di cui hanno bisogno per elaborare.

Il processo di trasformazione dei dati è reso molto più complesso a causa della crescita sbalorditiva nella quantità di dati non strutturati. Un'applicazione aziendale come la gestione delle relazioni con i clienti ha requisiti specifici per la modalità di archiviazione dei dati. È probabile che i dati siano strutturati nelle righe e nelle colonne organizzate di un database relazionale. I dati sono semistrutturati o non strutturati se non seguono requisiti di formato rigidi.

Le informazioni contenute in un messaggio di posta elettronica sono considerate non strutturate, ad esempio. Alcune delle informazioni più importanti di un'azienda sono in forme non strutturate e semi-strutturate come documenti, messaggi di posta elettronica, formati di messaggistica complessi, interazioni con il servizio clienti, transazioni e informazioni provenienti da applicazioni pacchettizzate come ERP e CRM.

Gli strumenti di trasformazione dei dati non sono progettati per funzionare correttamente con i dati non strutturati. Di conseguenza, le aziende che hanno bisogno di incorporare informazioni non strutturate nel processo decisionale dei processi aziendali hanno dovuto affrontare una quantità significativa di codice manuale per realizzare l'integrazione dei dati richiesta.

Data la crescita e l'importanza dei dati non strutturati per il processo decisionale, le soluzioni ETL dei principali fornitori stanno iniziando ad offrire approcci standardizzati per trasformare i dati non strutturati in modo che possano essere integrati più facilmente con i dati strutturati operativi.

Il ruolo dell'ETL tradizionale nei Big Data - manichini

Scelta dell'editore

Come leggere dal file in PHP per la programmazione HTML5 e CSS3 - manichini

Come leggere dal file in PHP per la programmazione HTML5 e CSS3 - manichini

Se puoi scrivere dati in un file in PHP, sarebbe logico che tu possa leggere da quel file anche per la programmazione HTML5 e CSS3. Il readContact. programma php recupera i dati salvati nel programma precedente e li visualizza sullo schermo. Non è difficile scrivere un programma per leggere ...

Come usare una classe PHP in uno script - dummy

Come usare una classe PHP in uno script - dummy

Il codice classe PHP deve essere inserito lo script che usa la classe. Più comunemente, la classe viene archiviata in un file di inclusione separato ed è inclusa in qualsiasi script che utilizza la classe. Per usare un oggetto, devi prima creare l'oggetto dalla classe. Quindi quell'oggetto può eseguire qualsiasi metodo che ...

Scelta dell'editore

Come usare lo strumento Timbro clone di Photoshop - manichini

Come usare lo strumento Timbro clone di Photoshop - manichini

Puoi usare lo strumento Timbro clone in Photoshop per rimuovere gli angoli e altri difetti copiando una porzione dei pixel circostanti, che dovrebbero avere un colore e una consistenza simili, sopra la parte malata dell'immagine. Per utilizzare lo strumento Timbro clone, attenersi alla seguente procedura: Selezionare lo strumento Timbro clone dallo strumento ...

Come disinstallare e reinstallare Photoshop Lightroom - dummies

Come disinstallare e reinstallare Photoshop Lightroom - dummies

Se si nota un problema con Lightroom la prima volta che si avvia esso, qualcosa potrebbe essere andato storto durante il processo di installazione. Disinstallare e quindi reinstallare potrebbe essere tutto ciò che è necessario per correggere il problema. Il processo è diverso per ogni sistema operativo, quindi ecco i passaggi separati per ciascuno. Su Windows: Chiudi tutto ...

Fotografia For Dummies Cheat Sheet - dummies

Fotografia For Dummies Cheat Sheet - dummies

La fotografia è un hobby divertente e gratificante che può renderti molto popolare tra la gente nelle tue foto - o molto impopolare. Per ottenere il massimo da una fotocamera "inquadra e scatta", digitale o meno, la prima abilità da padroneggiare è bloccare l'attenzione. Puoi perfezionare le tue abilità fotografiche in modo che le tue foto siano ...

Scelta dell'editore

Agire per aumentare le emozioni edificanti - manichini

Agire per aumentare le emozioni edificanti - manichini

Al fine di elevare le tue emozioni, il primo passo è diventare consapevoli di quale emozioni che hai Diventa consapevole di ciò che ti innesca: cosa ti mette in agitazione e ti fa arrabbiare e ciò che ti rende molto eccitato. Un trigger sta guardando alcuni programmi televisivi e consente alle emozioni di questi programmi di permeare ...

Come le aziende ti convincono ad acquistare i loro prodotti - manichini

Come le aziende ti convincono ad acquistare i loro prodotti - manichini

Quasi tutti i media commerciali destinati alle donne ottengono la loro pubblicità entrate dalle industrie del cibo, della bellezza, della dieta e della moda. Solo l'industria della dieta stessa è un'impresa commerciale da 33 miliardi di dollari l'anno. E, naturalmente, queste industrie hanno bisogno di clienti in modo continuativo per continuare a avere successo. È nel loro interesse per ...

Come si forma l'immagine del corpo nella tua gioventù - dummies

Come si forma l'immagine del corpo nella tua gioventù - dummies

In generale, ciò che hai vissuto con la tua famiglia quando stavano crescendo ha avuto un effetto diretto sui pensieri e le sensazioni che hai avuto sul tuo corpo. Ripensa ai tuoi anni più giovani. Quanto attentamente le seguenti affermazioni descrivono la tua famiglia? Nessuno ha esercitato. L'auto è stata utilizzata anche per viaggi brevi. Cibo pesante e da ingrasso ...