Casa Finanza personale Google Dremel e Hadoop - dummies

Google Dremel e Hadoop - dummies

Video: Building A Petabyte Scale Warehouse in BigQuery (Cloud Next '18) 2025

Video: Building A Petabyte Scale Warehouse in BigQuery (Cloud Next '18) 2025
Anonim

Per la maggior parte delle persone, il termine Dremel riporta alla mente un pratico strumento ad alta velocità e bassa coppia che funziona bene per una varietà di lavori in casa. Ma lo sapevi che Google ha creato un Dremel? Invece di produrre un altro strumento meccanico palmare , Google ha scelto uno strumento software veloce per l'analisi interattiva dei big data.

Come con altre tecnologie Google che hanno ispirato parti dell'ecosistema Hadoop, come MapReduce, Google File System (HDFS) e BigTable (vedi HBase), Google ha sviluppato Dremel per l'uso interno e poi ha pubblicato un articolo che descrive lo scopo e il design della tecnologia. (In altre parole, Dremel non è qualcosa che puoi scaricare e utilizzare sul tuo cluster Hadoop.)

Google utilizza Dremel per una varietà di lavori, tra cui l'analisi di documenti sottoposti a scomposizioni Web, il rilevamento di spam e-mail, il lavoro attraverso i rapporti sugli arresti anomali delle applicazioni e altro ancora. Il servizio BigQuery di Google utilizza effettivamente Dremel.

Google ha progettato la tecnologia MapReduce per l'elaborazione in batch su enormi set di dati. Con l'evolversi delle loro esigenze, anche la loro tecnologia si è evoluta e Google ha deciso di creare Dremel per migliorare le prestazioni per le query interattive contro i big data set.

L'approccio MapReduce fornisce scalabilità e tolleranza agli errori di query, ma fondamentalmente è un sistema basato su batch, quindi i tempi di risposta per le query più piccole (query che coinvolgono solo una piccola parte di un intero set di dati, ad esempio) spesso non sono ciò che gli utenti si aspettano.

Così Google ha sviluppato una tecnologia di esecuzione delle query progettata per le query interattive, che viene eseguita su server intermedi sulla parte superiore di Google File System (GFS). (Ricordate, GFS è stato l'ispirazione per Apache HDFS, che è il file system di Hadoop.)

Simile a Hive, Dremel utilizza un linguaggio simile a SQL (familiare alla maggior parte dei programmatori) e utilizza un layout di dati colonnare. Dremel fornisce una risposta rapida e interattiva alle interrogazioni preservando la scalabilità e la tolleranza agli errori riscontrate in Apache Hive. Nel white paper di Dremel, Google spiega come è possibile eseguire query di aggregazione in pochi secondi su tabelle con un trilione di righe, non male affatto.

Quindi Google ha la sua tecnologia Dremel, che usa internamente, ma poi ci sono tutte le tecnologie "ispirate da" Dremel (un po 'come tutti quei profumi "ispirate a" Drakkar Noir).

Google Dremel e Hadoop - dummies

Scelta dell'editore

Come leggere dal file in PHP per la programmazione HTML5 e CSS3 - manichini

Come leggere dal file in PHP per la programmazione HTML5 e CSS3 - manichini

Se puoi scrivere dati in un file in PHP, sarebbe logico che tu possa leggere da quel file anche per la programmazione HTML5 e CSS3. Il readContact. programma php recupera i dati salvati nel programma precedente e li visualizza sullo schermo. Non è difficile scrivere un programma per leggere ...

Come usare una classe PHP in uno script - dummy

Come usare una classe PHP in uno script - dummy

Il codice classe PHP deve essere inserito lo script che usa la classe. Più comunemente, la classe viene archiviata in un file di inclusione separato ed è inclusa in qualsiasi script che utilizza la classe. Per usare un oggetto, devi prima creare l'oggetto dalla classe. Quindi quell'oggetto può eseguire qualsiasi metodo che ...

Scelta dell'editore

Come usare lo strumento Timbro clone di Photoshop - manichini

Come usare lo strumento Timbro clone di Photoshop - manichini

Puoi usare lo strumento Timbro clone in Photoshop per rimuovere gli angoli e altri difetti copiando una porzione dei pixel circostanti, che dovrebbero avere un colore e una consistenza simili, sopra la parte malata dell'immagine. Per utilizzare lo strumento Timbro clone, attenersi alla seguente procedura: Selezionare lo strumento Timbro clone dallo strumento ...

Come disinstallare e reinstallare Photoshop Lightroom - dummies

Come disinstallare e reinstallare Photoshop Lightroom - dummies

Se si nota un problema con Lightroom la prima volta che si avvia esso, qualcosa potrebbe essere andato storto durante il processo di installazione. Disinstallare e quindi reinstallare potrebbe essere tutto ciò che è necessario per correggere il problema. Il processo è diverso per ogni sistema operativo, quindi ecco i passaggi separati per ciascuno. Su Windows: Chiudi tutto ...

Fotografia For Dummies Cheat Sheet - dummies

Fotografia For Dummies Cheat Sheet - dummies

La fotografia è un hobby divertente e gratificante che può renderti molto popolare tra la gente nelle tue foto - o molto impopolare. Per ottenere il massimo da una fotocamera "inquadra e scatta", digitale o meno, la prima abilità da padroneggiare è bloccare l'attenzione. Puoi perfezionare le tue abilità fotografiche in modo che le tue foto siano ...

Scelta dell'editore

Agire per aumentare le emozioni edificanti - manichini

Agire per aumentare le emozioni edificanti - manichini

Al fine di elevare le tue emozioni, il primo passo è diventare consapevoli di quale emozioni che hai Diventa consapevole di ciò che ti innesca: cosa ti mette in agitazione e ti fa arrabbiare e ciò che ti rende molto eccitato. Un trigger sta guardando alcuni programmi televisivi e consente alle emozioni di questi programmi di permeare ...

Come le aziende ti convincono ad acquistare i loro prodotti - manichini

Come le aziende ti convincono ad acquistare i loro prodotti - manichini

Quasi tutti i media commerciali destinati alle donne ottengono la loro pubblicità entrate dalle industrie del cibo, della bellezza, della dieta e della moda. Solo l'industria della dieta stessa è un'impresa commerciale da 33 miliardi di dollari l'anno. E, naturalmente, queste industrie hanno bisogno di clienti in modo continuativo per continuare a avere successo. È nel loro interesse per ...

Come si forma l'immagine del corpo nella tua gioventù - dummies

Come si forma l'immagine del corpo nella tua gioventù - dummies

In generale, ciò che hai vissuto con la tua famiglia quando stavano crescendo ha avuto un effetto diretto sui pensieri e le sensazioni che hai avuto sul tuo corpo. Ripensa ai tuoi anni più giovani. Quanto attentamente le seguenti affermazioni descrivono la tua famiglia? Nessuno ha esercitato. L'auto è stata utilizzata anche per viaggi brevi. Cibo pesante e da ingrasso ...