Casa Finanza personale Graph Processing In Hadoop - dummies

Graph Processing In Hadoop - dummies

Sommario:

Video: Apache Giraph Large Scale Graph Processing On Hadoop 2025

Video: Apache Giraph Large Scale Graph Processing On Hadoop 2025
Anonim

Una delle tecnologie NoSQL emergenti più eccitanti riguarda la memorizzazione e l'elaborazione dei dati del grafico. Potresti pensare che questa affermazione sia una vecchia notizia perché gli scienziati informatici hanno sviluppato tecniche di analisi del grafico per decenni. Quello che dici potrebbe essere vero, ma la novità è che usando Hadoop puoi fare analisi del grafico su larga scala.

Che cosa sono i dati del grafico?

Un grafico in termini di dati è semplicemente una rappresentazione delle singole entità e delle loro relazioni. Le entità di un grafico sono conosciute come nodi (o vertici ), e le relazioni tra entità in un grafico sono conosciute come bordi (o connessioni >). Rappresentare set di dati in un grafico, a differenza delle righe e delle colonne tradizionali, rende molto più semplice elaborare i dati in modo da rendere le relazioni tra gli oggetti cristalline. I calcoli tipici del grafico sono rappresentati dalla distanza del percorso più breve tra più nodi nel grafico, o semplicemente da quanti nodi hanno connessioni di un certo tipo a un nodo specifico.

Applicazioni per l'analisi del grafico

L'applicazione più nota per i database di grafici è l'algoritmo PageRank di Google, che calcola le relazioni di collegamento tra tutte le pagine Web conosciute. Google rappresenta il Web come un gigantesco grafico, in cui le pagine Web sono nodi e i collegamenti da una pagina all'altra sono rappresentati come spigoli. (Google ha condiviso la ricchezza pubblicando un documento che descrive il suo progetto di analisi del grafico - etichettato Pregel - nel 2010). L'elaborazione del grafico che interessava a Google era il calcolo del numero di connessioni in entrata per ciascuna pagina web.

Facebook ha fatto un grande successo nel 2013 quando ha annunciato che stava usando Apaphif Giraph (basato sul foglio Pregel), un motore di elaborazione grafico progettato per elaborare i grafici memorizzati in HDFS. Ha mostrato il potere del Giraph mostrando un grafico che rappresenta tutti gli utenti di Facebook (oltre 1 miliardo) e le loro amicizie (miliardi!), Che complessivamente ha oltre 1 trilione di spigoli. Questa scala è sbalorditiva: se sei di Facebook e hai bisogno di fare calcoli come consigli di amici, quale strumento migliore usare di un motore di elaborazione di grafici? Non sorprende che un database grafico distribuito si trovi al centro di ogni altro sito di social media, tra cui Twitter, LinkedIn, OkCupid e Pinterest.

Un motore di elaborazione grafica può facilmente rispondere a molte domande pratiche per i siti di social media. Due esempi sono come LinkedIn mostra i gradi di separazione tra te e un altro utente è un calcolo del percorso più breve (qual è la connessione più vicina tra due nodi?) e in che modo OkCupid mostra agli utenti con interessi comuni una serie di calcoli di filtraggio collaborativo (quali sono le connessioni più comuni a un insieme specifico di nodi?).

Analisi del grafico in Hadoop

A partire dalla primavera 2014, l'analisi grafica su Hadoop rimane nelle sue fasi iniziali. Con l'avvento di YARN in Hadoop 2, l'analisi del grafico e altre tecniche di elaborazione specializzate diventeranno sempre più popolari su Hadoop. Molti dei siti social menzionati in questo articolo utilizzano i propri database di grafi proprietari e motori di elaborazione, ma Facebook è un utente di spicco di Giraph. Poiché il sigillo di approvazione (implicito) di Facebook, Giraph è diventato una scelta popolare per l'analisi del grafo su Hadoop, ma ha alcune limitazioni. È solo un motore di elaborazione perché carica i dati sotto forma di grafico nella memoria del cluster ed è ottimizzato per le query orientate ai batch.

Un'altra soluzione di elaborazione grafica proviene da Aurelius, una società che ha rilasciato una serie di strumenti di analisi del grafico open source per Hadoop. Al centro della sua offerta c'è Titan, un database grafico che utilizza HBase come livello di persistenza, ottimizzato per le query interattive, e Faunus, un motore di elaborazione grafica che memorizza un'istantanea di un grafico da Titan in HDFS e esegue i lavori MapReduce contro di esso. Per entrambe le applicazioni interattive (Titan) e batch (Faunus), Aurelius ha l'API grafico-trasversale comune denominata Gremlin.

Infine, il progetto Apache Spark ha il ramo GraphX, che abilita la generazione dei dati del grafico e quindi l'elaborazione, tutto all'interno del framework Spark.

Graph Processing In Hadoop - dummies

Scelta dell'editore

Come salvare le immagini in un file immagine in R - dummies

Come salvare le immagini in un file immagine in R - dummies

Se vuoi pubblicare le tue risultati, è necessario salvare la trama in un file in R e quindi importare questo file grafico in un altro documento. Tuttavia, per la maggior parte del tempo, potresti semplicemente voler utilizzare la grafica R in modo interattivo per esplorare i tuoi dati. Per salvare un grafico su un'immagine ...

Come cercare più parole in R - dummies

Come cercare più parole in R - dummies

Quando si lavora con il testo in R, potrebbe essere necessario per trovare parole o motivi all'interno del testo. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quali nomi di stato consistono in due parole. Per trovare sottostringhe, è possibile utilizzare la funzione grep (), che prende due argomenti essenziali: ...

Come cercare le singole parole in R - dummies

Come cercare le singole parole in R - dummies

Quando lavori con il testo, spesso tu può risolvere i problemi se riesci a trovare parole o motivi all'interno del testo. R rende questo facile da fare. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quale di questi stati contiene la parola Nuovo. Per indagare su questo ...

Scelta dell'editore

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Una detrazione fiscale è qualcosa che puoi vedere nell'esame di licenza immobiliare che puoi detrarre dal reddito di un investimento immobiliare per ridurre le tasse. Un credito d'imposta è qualcosa che puoi detrarre dalle tasse dovute. I governi federali e talvolta statali creano programmi che consentono crediti d'imposta o detrazioni per ...

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Valore doesn ' semplicemente succede; le persone devono crearlo. La maggior parte di queste azioni personali che saranno trattate durante l'esame di licenza immobiliare, di solito chiamate influenze economiche, non sono altro che normali comportamenti umani. Il test pone due tipi di domande su questi principi o fattori economici. Vedrai domande sulle definizioni e ...

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Pur calcolando la tassa le tariffe non sono qualcosa che devi sapere esattamente come fare per l'esame di licenza immobiliare, è qualcosa che devi capire in generale per rispondere a domande di non-matematica sul processo. Sapere come calcolare le tasse non è una cosa brutta da sapere, perché probabilmente si pagano le tasse di proprietà e ...

Scelta dell'editore

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

La maggior parte dei giochi di logica sull'LSAT hanno tre, quattro o cinque condizioni o regole che limitano il modo in cui giochi con i pezzi. Per ordinare i giochi, le restrizioni forniscono indizi su come i pezzi possono essere posizionati in relazione l'uno con l'altro. I tipi comuni di regole di ordinazione sono obiettivi, distanziatori e arrangiatori. Regole di destinazione I bersagli danno ...

Come gestire il tuo tempo con saggezza sul TASC - dummies

Come gestire il tuo tempo con saggezza sul TASC - dummies

Perché ogni sezione del TASC, oppure Prova l'esame di completamento secondario, ha un limite di tempo, vorrai essere consapevole di quanto tempo è passato mentre stai facendo il test. Un modo per gestire efficacemente il tuo tempo è semplicemente indossando un orologio. I centri di test potrebbero non avere sempre un orologio disponibile e ...

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Non è possibile effettuare SSAT o ISEE più facile, ma puoi iniziare la giornata di test correttamente e renderlo più semplice e meno stressante, il che può portare a risultati migliori durante l'esame di ammissione. Ecco alcuni suggerimenti da tenere a mente al giorno del test SSAT o ISEE: riposati molto. La ...