Casa Finanza personale Sviluppo di flussi di lavoro Oozie in Hadoop - dummies

Sviluppo di flussi di lavoro Oozie in Hadoop - dummies

Video: The Story of Stuff 2025

Video: The Story of Stuff 2025
Anonim

I flussi di lavoro di Oozie sono, al loro centro, grafici diretti, in cui è possibile definire azioni (applicazioni Hadoop) e flusso di dati, ma senza looping, il che significa che si può t definire una struttura in cui eseguire ripetutamente un'operazione specifica fino a quando non viene soddisfatta una condizione (un ciclo for, ad esempio).

I flussi di lavoro di Oozie sono abbastanza flessibili in quanto è possibile definire decisioni basate sulla condizione e percorsi biforcati per l'esecuzione parallela. Puoi anche eseguire una vasta gamma di azioni.

In questa figura, viene visualizzato un flusso di lavoro che mostra le funzionalità di base dei flussi di lavoro di Oozie. Innanzitutto, viene eseguito uno script Pig e immediatamente seguito da un albero decisionale. A seconda dello stato dell'output, il flusso di controllo può passare direttamente a un'operazione di file HDFS (Hadoop Distributed File System) (ad esempio, un'operazione copyToLocal) oa un'azione fork.

Se il flusso di controllo passa all'azione fork, vengono eseguiti contemporaneamente due lavori: un lavoro MapReduce e una query Hive. Il flusso di controllo passa quindi all'operazione HDFS una volta che il lavoro MapReduce e la query Hive sono terminati. Dopo l'operazione HDFS, il flusso di lavoro è completo.

Le definizioni del flusso di lavoro Oozie sono scritte in XML, in base allo schema Hadoop Process Definition Language (hPDL). Questo particolare schema è, a sua volta, basato sullo schema XML Process Definition Language (XPDL), che è uno standard indipendente dal prodotto per la modellazione delle definizioni dei processi di business.

Un flusso di lavoro Oozie è composto da una serie di azioni, che sono codificate da nodi XML. Esistono diversi tipi di nodi, che rappresentano diversi tipi di azioni o direttive di controllo del flusso. Ogni flusso di lavoro Oozie ha il proprio file XML, in cui sono definiti ogni nodo e le sue interconnessioni.

Tutti i nodi del flusso di lavoro richiedono identificatori univoci perché vengono utilizzati per identificare il nodo successivo da elaborare nel flusso di lavoro. Ciò significa che l'ordine in cui vengono eseguite le azioni dipende da dove viene visualizzato il nodo di un'azione nel flusso di lavoro XML. Per vedere come apparirà questo concetto, controlla il seguente elenco, che mostra un esempio della struttura di base del file XML di un flusso di lavoro di Oozie.

… … "Lavoro eliminato".

In questo esempio, a parte i nodi di inizio, fine e uccisione, si hanno due nodi azione. Ogni nodo azione rappresenta un'applicazione o un comando in esecuzione.

Sviluppo di flussi di lavoro Oozie in Hadoop - dummies

Scelta dell'editore

Come salvare le immagini in un file immagine in R - dummies

Come salvare le immagini in un file immagine in R - dummies

Se vuoi pubblicare le tue risultati, è necessario salvare la trama in un file in R e quindi importare questo file grafico in un altro documento. Tuttavia, per la maggior parte del tempo, potresti semplicemente voler utilizzare la grafica R in modo interattivo per esplorare i tuoi dati. Per salvare un grafico su un'immagine ...

Come cercare più parole in R - dummies

Come cercare più parole in R - dummies

Quando si lavora con il testo in R, potrebbe essere necessario per trovare parole o motivi all'interno del testo. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quali nomi di stato consistono in due parole. Per trovare sottostringhe, è possibile utilizzare la funzione grep (), che prende due argomenti essenziali: ...

Come cercare le singole parole in R - dummies

Come cercare le singole parole in R - dummies

Quando lavori con il testo, spesso tu può risolvere i problemi se riesci a trovare parole o motivi all'interno del testo. R rende questo facile da fare. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quale di questi stati contiene la parola Nuovo. Per indagare su questo ...

Scelta dell'editore

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Una detrazione fiscale è qualcosa che puoi vedere nell'esame di licenza immobiliare che puoi detrarre dal reddito di un investimento immobiliare per ridurre le tasse. Un credito d'imposta è qualcosa che puoi detrarre dalle tasse dovute. I governi federali e talvolta statali creano programmi che consentono crediti d'imposta o detrazioni per ...

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Valore doesn ' semplicemente succede; le persone devono crearlo. La maggior parte di queste azioni personali che saranno trattate durante l'esame di licenza immobiliare, di solito chiamate influenze economiche, non sono altro che normali comportamenti umani. Il test pone due tipi di domande su questi principi o fattori economici. Vedrai domande sulle definizioni e ...

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Pur calcolando la tassa le tariffe non sono qualcosa che devi sapere esattamente come fare per l'esame di licenza immobiliare, è qualcosa che devi capire in generale per rispondere a domande di non-matematica sul processo. Sapere come calcolare le tasse non è una cosa brutta da sapere, perché probabilmente si pagano le tasse di proprietà e ...

Scelta dell'editore

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

La maggior parte dei giochi di logica sull'LSAT hanno tre, quattro o cinque condizioni o regole che limitano il modo in cui giochi con i pezzi. Per ordinare i giochi, le restrizioni forniscono indizi su come i pezzi possono essere posizionati in relazione l'uno con l'altro. I tipi comuni di regole di ordinazione sono obiettivi, distanziatori e arrangiatori. Regole di destinazione I bersagli danno ...

Come gestire il tuo tempo con saggezza sul TASC - dummies

Come gestire il tuo tempo con saggezza sul TASC - dummies

Perché ogni sezione del TASC, oppure Prova l'esame di completamento secondario, ha un limite di tempo, vorrai essere consapevole di quanto tempo è passato mentre stai facendo il test. Un modo per gestire efficacemente il tuo tempo è semplicemente indossando un orologio. I centri di test potrebbero non avere sempre un orologio disponibile e ...

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Non è possibile effettuare SSAT o ISEE più facile, ma puoi iniziare la giornata di test correttamente e renderlo più semplice e meno stressante, il che può portare a risultati migliori durante l'esame di ammissione. Ecco alcuni suggerimenti da tenere a mente al giorno del test SSAT o ISEE: riposati molto. La ...