Casa Finanza personale Graph Processing In Hadoop - dummies

Graph Processing In Hadoop - dummies

Sommario:

Video: Apache Giraph Large Scale Graph Processing On Hadoop 2025

Video: Apache Giraph Large Scale Graph Processing On Hadoop 2025
Anonim

Una delle tecnologie NoSQL emergenti più eccitanti riguarda la memorizzazione e l'elaborazione dei dati del grafico. Potresti pensare che questa affermazione sia una vecchia notizia perché gli scienziati informatici hanno sviluppato tecniche di analisi del grafico per decenni. Quello che dici potrebbe essere vero, ma la novità è che usando Hadoop puoi fare analisi del grafico su larga scala.

Che cosa sono i dati del grafico?

Un grafico in termini di dati è semplicemente una rappresentazione delle singole entità e delle loro relazioni. Le entità di un grafico sono conosciute come nodi (o vertici ), e le relazioni tra entità in un grafico sono conosciute come bordi (o connessioni >). Rappresentare set di dati in un grafico, a differenza delle righe e delle colonne tradizionali, rende molto più semplice elaborare i dati in modo da rendere le relazioni tra gli oggetti cristalline. I calcoli tipici del grafico sono rappresentati dalla distanza del percorso più breve tra più nodi nel grafico, o semplicemente da quanti nodi hanno connessioni di un certo tipo a un nodo specifico.

Applicazioni per l'analisi del grafico

L'applicazione più nota per i database di grafici è l'algoritmo PageRank di Google, che calcola le relazioni di collegamento tra tutte le pagine Web conosciute. Google rappresenta il Web come un gigantesco grafico, in cui le pagine Web sono nodi e i collegamenti da una pagina all'altra sono rappresentati come spigoli. (Google ha condiviso la ricchezza pubblicando un documento che descrive il suo progetto di analisi del grafico - etichettato Pregel - nel 2010). L'elaborazione del grafico che interessava a Google era il calcolo del numero di connessioni in entrata per ciascuna pagina web.

Facebook ha fatto un grande successo nel 2013 quando ha annunciato che stava usando Apaphif Giraph (basato sul foglio Pregel), un motore di elaborazione grafico progettato per elaborare i grafici memorizzati in HDFS. Ha mostrato il potere del Giraph mostrando un grafico che rappresenta tutti gli utenti di Facebook (oltre 1 miliardo) e le loro amicizie (miliardi!), Che complessivamente ha oltre 1 trilione di spigoli. Questa scala è sbalorditiva: se sei di Facebook e hai bisogno di fare calcoli come consigli di amici, quale strumento migliore usare di un motore di elaborazione di grafici? Non sorprende che un database grafico distribuito si trovi al centro di ogni altro sito di social media, tra cui Twitter, LinkedIn, OkCupid e Pinterest.

Un motore di elaborazione grafica può facilmente rispondere a molte domande pratiche per i siti di social media. Due esempi sono come LinkedIn mostra i gradi di separazione tra te e un altro utente è un calcolo del percorso più breve (qual è la connessione più vicina tra due nodi?) e in che modo OkCupid mostra agli utenti con interessi comuni una serie di calcoli di filtraggio collaborativo (quali sono le connessioni più comuni a un insieme specifico di nodi?).

Analisi del grafico in Hadoop

A partire dalla primavera 2014, l'analisi grafica su Hadoop rimane nelle sue fasi iniziali. Con l'avvento di YARN in Hadoop 2, l'analisi del grafico e altre tecniche di elaborazione specializzate diventeranno sempre più popolari su Hadoop. Molti dei siti social menzionati in questo articolo utilizzano i propri database di grafi proprietari e motori di elaborazione, ma Facebook è un utente di spicco di Giraph. Poiché il sigillo di approvazione (implicito) di Facebook, Giraph è diventato una scelta popolare per l'analisi del grafo su Hadoop, ma ha alcune limitazioni. È solo un motore di elaborazione perché carica i dati sotto forma di grafico nella memoria del cluster ed è ottimizzato per le query orientate ai batch.

Un'altra soluzione di elaborazione grafica proviene da Aurelius, una società che ha rilasciato una serie di strumenti di analisi del grafico open source per Hadoop. Al centro della sua offerta c'è Titan, un database grafico che utilizza HBase come livello di persistenza, ottimizzato per le query interattive, e Faunus, un motore di elaborazione grafica che memorizza un'istantanea di un grafico da Titan in HDFS e esegue i lavori MapReduce contro di esso. Per entrambe le applicazioni interattive (Titan) e batch (Faunus), Aurelius ha l'API grafico-trasversale comune denominata Gremlin.

Infine, il progetto Apache Spark ha il ramo GraphX, che abilita la generazione dei dati del grafico e quindi l'elaborazione, tutto all'interno del framework Spark.

Graph Processing In Hadoop - dummies

Scelta dell'editore

Il programma in cinque passaggi per superare la menopausa - dummy

Il programma in cinque passaggi per superare la menopausa - dummy

Alcune donne capiscono a malapena che la menopausa è loro. Altre donne, tuttavia, sono meno fortunate. Se sei uno di questi, prendi in mano questi pochi modi per rendere la tua esperienza più facile per te stesso: capisci e accetta che stai attraversando una transizione naturale, proprio come la pubertà. Fortunatamente, sei più vecchio e più saggio di te ...

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa segna la fine della fase riproduttiva della tua vita e così è un momento significativo di cambiamento fisico, emotivo e mentale per molte donne ma, per generazioni, donne di tutte le età hanno vagato alla cieca in menopausa senza sapere cosa aspettarsi. Qui puoi scoprire alcune delle nozioni di base.

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Mestruazioni e menopausa sono ben noti biologici pietre miliari nella vita di una femmina. Contrariamente al pensiero popolare, la menopausa non è il periodo di mesi o anni in cui una donna sta "attraversando il cambiamento". "Questo lasso di tempo è chiamato perimenopausa. La menopausa è una data effettiva nel tempo. In particolare, è il 12 ° anniversario dell'ultimo ciclo mestruale di una donna. ...

Scelta dell'editore

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

È Possibile creare un filtro automatico personalizzato . Per fare ciò, seleziona il comando Filtro testo dal menu della tabella e scegli una delle opzioni di filtro del testo. Indipendentemente dall'opzione di filtro del testo selezionata, Excel visualizza la finestra di dialogo Filtro automatico personalizzato. Questa finestra di dialogo consente di specificare con estrema precisione quali record si desidera ...

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

DPRODUCT moltiplica i valori che corrispondono al criterio in un database Excel. Questo è potente ma anche in grado di produrre risultati che non sono l'intenzione. In altre parole, è una cosa da aggiungere e ricavare una somma. Questa è un'operazione comune su un set di dati. Osservando la seguente figura, è possibile ...

Come utilizzare la funzione DPRODUCT in Excel - dummy

Come utilizzare la funzione DPRODUCT in Excel - dummy

La funzione DPRODUCT in Excel è strana. La funzione DPRODUCT moltiplica i valori nei campi da un elenco di database in base ai criteri di selezione. Perché vorresti farlo? Chissà. La funzione utilizza la sintassi = DPRODUCT (database, campo, criteri) in cui il database è un riferimento all'intervallo alla tabella di Excel che contiene il valore desiderato ...

Scelta dell'editore

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Ci sono un paio di cose a cui vuoi pensare quando riutilizzi i nomi nella tua app per Android. È possibile dichiarare due variabili Java - bag1 e bag2 - per fare riferimento a due diversi oggetti BagOfCheese. Va bene. Ma a volte, avere solo una variabile e riutilizzarla per il secondo oggetto funziona altrettanto bene, ...

Java: Mettere a frutto l'uso della classe - dummies

Java: Mettere a frutto l'uso della classe - dummies

La classe Employee nell'elenco non ha alcun metodo principale , quindi non c'è un punto di partenza per l'esecuzione del codice. Per risolvere questo problema, il programmatore scrive un programma separato con un metodo principale e utilizza tale programma per creare istanze Employee. Questo elenco di codici mostra una classe con un metodo principale - uno che inserisce il ...

Classi wrapper java - dummies

Classi wrapper java - dummies

La differenza tra tipi primitivi e tipi di riferimento è una delle funzionalità più controverse di Java e gli sviluppatori si lamentano spesso sulle differenze tra valori primitivi e valori di riferimento. Ogni tipo primitivo viene cotto nella lingua. Java ha otto tipi primitivi. Ogni tipo di riferimento è una classe o un'interfaccia. È possibile definire il proprio ...