Casa Finanza personale Google Dremel e Hadoop - dummies

Google Dremel e Hadoop - dummies

Video: Building A Petabyte Scale Warehouse in BigQuery (Cloud Next '18) 2025

Video: Building A Petabyte Scale Warehouse in BigQuery (Cloud Next '18) 2025
Anonim

Per la maggior parte delle persone, il termine Dremel riporta alla mente un pratico strumento ad alta velocità e bassa coppia che funziona bene per una varietà di lavori in casa. Ma lo sapevi che Google ha creato un Dremel? Invece di produrre un altro strumento meccanico palmare , Google ha scelto uno strumento software veloce per l'analisi interattiva dei big data.

Come con altre tecnologie Google che hanno ispirato parti dell'ecosistema Hadoop, come MapReduce, Google File System (HDFS) e BigTable (vedi HBase), Google ha sviluppato Dremel per l'uso interno e poi ha pubblicato un articolo che descrive lo scopo e il design della tecnologia. (In altre parole, Dremel non è qualcosa che puoi scaricare e utilizzare sul tuo cluster Hadoop.)

Google utilizza Dremel per una varietà di lavori, tra cui l'analisi di documenti sottoposti a scomposizioni Web, il rilevamento di spam e-mail, il lavoro attraverso i rapporti sugli arresti anomali delle applicazioni e altro ancora. Il servizio BigQuery di Google utilizza effettivamente Dremel.

Google ha progettato la tecnologia MapReduce per l'elaborazione in batch su enormi set di dati. Con l'evolversi delle loro esigenze, anche la loro tecnologia si è evoluta e Google ha deciso di creare Dremel per migliorare le prestazioni per le query interattive contro i big data set.

L'approccio MapReduce fornisce scalabilità e tolleranza agli errori di query, ma fondamentalmente è un sistema basato su batch, quindi i tempi di risposta per le query più piccole (query che coinvolgono solo una piccola parte di un intero set di dati, ad esempio) spesso non sono ciò che gli utenti si aspettano.

Così Google ha sviluppato una tecnologia di esecuzione delle query progettata per le query interattive, che viene eseguita su server intermedi sulla parte superiore di Google File System (GFS). (Ricordate, GFS è stato l'ispirazione per Apache HDFS, che è il file system di Hadoop.)

Simile a Hive, Dremel utilizza un linguaggio simile a SQL (familiare alla maggior parte dei programmatori) e utilizza un layout di dati colonnare. Dremel fornisce una risposta rapida e interattiva alle interrogazioni preservando la scalabilità e la tolleranza agli errori riscontrate in Apache Hive. Nel white paper di Dremel, Google spiega come è possibile eseguire query di aggregazione in pochi secondi su tabelle con un trilione di righe, non male affatto.

Quindi Google ha la sua tecnologia Dremel, che usa internamente, ma poi ci sono tutte le tecnologie "ispirate da" Dremel (un po 'come tutti quei profumi "ispirate a" Drakkar Noir).

Google Dremel e Hadoop - dummies

Scelta dell'editore

Come salvare le immagini in un file immagine in R - dummies

Come salvare le immagini in un file immagine in R - dummies

Se vuoi pubblicare le tue risultati, è necessario salvare la trama in un file in R e quindi importare questo file grafico in un altro documento. Tuttavia, per la maggior parte del tempo, potresti semplicemente voler utilizzare la grafica R in modo interattivo per esplorare i tuoi dati. Per salvare un grafico su un'immagine ...

Come cercare più parole in R - dummies

Come cercare più parole in R - dummies

Quando si lavora con il testo in R, potrebbe essere necessario per trovare parole o motivi all'interno del testo. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quali nomi di stato consistono in due parole. Per trovare sottostringhe, è possibile utilizzare la funzione grep (), che prende due argomenti essenziali: ...

Come cercare le singole parole in R - dummies

Come cercare le singole parole in R - dummies

Quando lavori con il testo, spesso tu può risolvere i problemi se riesci a trovare parole o motivi all'interno del testo. R rende questo facile da fare. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quale di questi stati contiene la parola Nuovo. Per indagare su questo ...

Scelta dell'editore

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Una detrazione fiscale è qualcosa che puoi vedere nell'esame di licenza immobiliare che puoi detrarre dal reddito di un investimento immobiliare per ridurre le tasse. Un credito d'imposta è qualcosa che puoi detrarre dalle tasse dovute. I governi federali e talvolta statali creano programmi che consentono crediti d'imposta o detrazioni per ...

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Valore doesn ' semplicemente succede; le persone devono crearlo. La maggior parte di queste azioni personali che saranno trattate durante l'esame di licenza immobiliare, di solito chiamate influenze economiche, non sono altro che normali comportamenti umani. Il test pone due tipi di domande su questi principi o fattori economici. Vedrai domande sulle definizioni e ...

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Pur calcolando la tassa le tariffe non sono qualcosa che devi sapere esattamente come fare per l'esame di licenza immobiliare, è qualcosa che devi capire in generale per rispondere a domande di non-matematica sul processo. Sapere come calcolare le tasse non è una cosa brutta da sapere, perché probabilmente si pagano le tasse di proprietà e ...

Scelta dell'editore

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

La maggior parte dei giochi di logica sull'LSAT hanno tre, quattro o cinque condizioni o regole che limitano il modo in cui giochi con i pezzi. Per ordinare i giochi, le restrizioni forniscono indizi su come i pezzi possono essere posizionati in relazione l'uno con l'altro. I tipi comuni di regole di ordinazione sono obiettivi, distanziatori e arrangiatori. Regole di destinazione I bersagli danno ...

Come gestire il tuo tempo con saggezza sul TASC - dummies

Come gestire il tuo tempo con saggezza sul TASC - dummies

Perché ogni sezione del TASC, oppure Prova l'esame di completamento secondario, ha un limite di tempo, vorrai essere consapevole di quanto tempo è passato mentre stai facendo il test. Un modo per gestire efficacemente il tuo tempo è semplicemente indossando un orologio. I centri di test potrebbero non avere sempre un orologio disponibile e ...

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Non è possibile effettuare SSAT o ISEE più facile, ma puoi iniziare la giornata di test correttamente e renderlo più semplice e meno stressante, il che può portare a risultati migliori durante l'esame di ammissione. Ecco alcuni suggerimenti da tenere a mente al giorno del test SSAT o ISEE: riposati molto. La ...