Casa Finanza personale Graph Processing In Hadoop - dummies

Graph Processing In Hadoop - dummies

Sommario:

Video: Apache Giraph Large Scale Graph Processing On Hadoop 2025

Video: Apache Giraph Large Scale Graph Processing On Hadoop 2025
Anonim

Una delle tecnologie NoSQL emergenti più eccitanti riguarda la memorizzazione e l'elaborazione dei dati del grafico. Potresti pensare che questa affermazione sia una vecchia notizia perché gli scienziati informatici hanno sviluppato tecniche di analisi del grafico per decenni. Quello che dici potrebbe essere vero, ma la novità è che usando Hadoop puoi fare analisi del grafico su larga scala.

Che cosa sono i dati del grafico?

Un grafico in termini di dati è semplicemente una rappresentazione delle singole entità e delle loro relazioni. Le entità di un grafico sono conosciute come nodi (o vertici ), e le relazioni tra entità in un grafico sono conosciute come bordi (o connessioni >). Rappresentare set di dati in un grafico, a differenza delle righe e delle colonne tradizionali, rende molto più semplice elaborare i dati in modo da rendere le relazioni tra gli oggetti cristalline. I calcoli tipici del grafico sono rappresentati dalla distanza del percorso più breve tra più nodi nel grafico, o semplicemente da quanti nodi hanno connessioni di un certo tipo a un nodo specifico.

Applicazioni per l'analisi del grafico

L'applicazione più nota per i database di grafici è l'algoritmo PageRank di Google, che calcola le relazioni di collegamento tra tutte le pagine Web conosciute. Google rappresenta il Web come un gigantesco grafico, in cui le pagine Web sono nodi e i collegamenti da una pagina all'altra sono rappresentati come spigoli. (Google ha condiviso la ricchezza pubblicando un documento che descrive il suo progetto di analisi del grafico - etichettato Pregel - nel 2010). L'elaborazione del grafico che interessava a Google era il calcolo del numero di connessioni in entrata per ciascuna pagina web.

Facebook ha fatto un grande successo nel 2013 quando ha annunciato che stava usando Apaphif Giraph (basato sul foglio Pregel), un motore di elaborazione grafico progettato per elaborare i grafici memorizzati in HDFS. Ha mostrato il potere del Giraph mostrando un grafico che rappresenta tutti gli utenti di Facebook (oltre 1 miliardo) e le loro amicizie (miliardi!), Che complessivamente ha oltre 1 trilione di spigoli. Questa scala è sbalorditiva: se sei di Facebook e hai bisogno di fare calcoli come consigli di amici, quale strumento migliore usare di un motore di elaborazione di grafici? Non sorprende che un database grafico distribuito si trovi al centro di ogni altro sito di social media, tra cui Twitter, LinkedIn, OkCupid e Pinterest.

Un motore di elaborazione grafica può facilmente rispondere a molte domande pratiche per i siti di social media. Due esempi sono come LinkedIn mostra i gradi di separazione tra te e un altro utente è un calcolo del percorso più breve (qual è la connessione più vicina tra due nodi?) e in che modo OkCupid mostra agli utenti con interessi comuni una serie di calcoli di filtraggio collaborativo (quali sono le connessioni più comuni a un insieme specifico di nodi?).

Analisi del grafico in Hadoop

A partire dalla primavera 2014, l'analisi grafica su Hadoop rimane nelle sue fasi iniziali. Con l'avvento di YARN in Hadoop 2, l'analisi del grafico e altre tecniche di elaborazione specializzate diventeranno sempre più popolari su Hadoop. Molti dei siti social menzionati in questo articolo utilizzano i propri database di grafi proprietari e motori di elaborazione, ma Facebook è un utente di spicco di Giraph. Poiché il sigillo di approvazione (implicito) di Facebook, Giraph è diventato una scelta popolare per l'analisi del grafo su Hadoop, ma ha alcune limitazioni. È solo un motore di elaborazione perché carica i dati sotto forma di grafico nella memoria del cluster ed è ottimizzato per le query orientate ai batch.

Un'altra soluzione di elaborazione grafica proviene da Aurelius, una società che ha rilasciato una serie di strumenti di analisi del grafico open source per Hadoop. Al centro della sua offerta c'è Titan, un database grafico che utilizza HBase come livello di persistenza, ottimizzato per le query interattive, e Faunus, un motore di elaborazione grafica che memorizza un'istantanea di un grafico da Titan in HDFS e esegue i lavori MapReduce contro di esso. Per entrambe le applicazioni interattive (Titan) e batch (Faunus), Aurelius ha l'API grafico-trasversale comune denominata Gremlin.

Infine, il progetto Apache Spark ha il ramo GraphX, che abilita la generazione dei dati del grafico e quindi l'elaborazione, tutto all'interno del framework Spark.

Graph Processing In Hadoop - dummies

Scelta dell'editore

Come registrare note di credito in QuickBooks 2010 - dummies

Come registrare note di credito in QuickBooks 2010 - dummies

Note di credito mostrano quando un cliente non ti deve più soldi o quando devi un denaro del cliente. QuickBooks 2010 ti consente di registrare note di credito, che possono verificarsi perché il cliente restituisce gli articoli o emette un rimborso al cliente.

Come registrare una ricevuta di vendita con QuickBooks 2010 - dummies

Come registrare una ricevuta di vendita con QuickBooks 2010 - dummies

QuickBooks 2010 consente di creare vendite ricevuta quando un cliente acquista un articolo senza la necessità di una fattura. Una ricevuta di vendita sembra molto, molto simile a una fattura. Tuttavia, non include le informazioni sulla spedizione (perché è irrilevante) e consente di registrare l'importo pagato dal cliente.

Come registrare un credito fornitore in QuickBooks online - dummies

Come registrare un credito fornitore in QuickBooks online - dummies

In QuickBooks Online (QBO), tu inserisci un credito fornitore per registrare resi a fornitori o rimborsi da parte dei fornitori. Un venditore potrebbe fornirti un documento di credito che indica che non devi più l'importo indicato sul documento, o che il venditore potrebbe emettere un assegno di rimborso. Se un fornitore emette un credito ...

Scelta dell'editore

Come accettare e inoltrare richieste di introduzione di LinkedIn - dummies

Come accettare e inoltrare richieste di introduzione di LinkedIn - dummies

Una volta che inizi a costruire la tua rete di LinkedIn, dovrà essere in grado di accettare e inoltrare richieste di amicizia. Quando sei pronto per accettare la richiesta del tuo amico e inoltrare la sua introduzione, procedi nel seguente modo:

Come LinkedIn ti aiuta a trovare le risposte alle tue domande - dummies

Come LinkedIn ti aiuta a trovare le risposte alle tue domande - dummies

L'obiettivo di LinkedIn Answers è consentire ai professionisti di scambiare competenze. I membri di LinkedIn hanno molte esperienze personali e professionali da condividere, quindi non c'è fine alle domande che puoi porre. Inoltre, la rete LinkedIn Answers facilita l'organizzazione e la raccolta delle informazioni. LinkedIn organizza domande nelle seguenti categorie: Amministrazione: ...

Come accettare i consigli su LinkedIn - dummies

Come accettare i consigli su LinkedIn - dummies

LinkedIn non aggiunge automaticamente alcuna approvazione in entrata al tuo profilo; per prima cosa devi accettare quelle approvazioni. Quando ricevi un avallo, compare nell'elenco delle notifiche nell'angolo in alto a destra della schermata di LinkedIn e ricevi anche un messaggio di posta elettronica (a seconda delle impostazioni della tua e-mail) che ti informa su chi ti ha sostenuto e ...

Scelta dell'editore

Come misurare la liquidità con QuickBooks 2013 - manichini

Come misurare la liquidità con QuickBooks 2013 - manichini

Per molte piccole imprese, la liquidità è importante. Se lavori con QuickBooks 2013 in un contesto di piccola impresa, devi comprendere l'importanza della liquidità. Hai solo un numero limitato di investimenti che puoi realizzare. Inoltre, hai una quantità limitata di capitale - meno di quanto ti piace, quasi sempre. Nuove opportunità e ...

Come misurare la liquidità con QuickBooks 2014 - dummies

Come misurare la liquidità con QuickBooks 2014 - dummies

Per molte piccole imprese, la liquidità è importante. Se stai lavorando con QuickBooks in un contesto di piccola impresa, devi capire l'importanza della liquidità. È possibile effettuare solo un numero limitato di investimenti. Inoltre, hai una quantità limitata di capitale - meno di quanto ti piace, quasi sempre. Nuove opportunità e modi per investire il tuo ...

Come modificare un rapporto QuickBooks con la scheda Filtri - dummies

Come modificare un rapporto QuickBooks con la scheda Filtri - dummies

La scheda Filtri è probabilmente la scheda più interessante e utile fornita dalla finestra di dialogo Modifica rapporto in QuickBooks. La scheda Filtri consente di impostare i filtri che è possibile utilizzare per specificare quali informazioni vengono riepilogate nel report. Per utilizzare la scheda Filtri, qui mostrata, devi prima selezionare il campo su ...