Casa Finanza personale Aspetti nella gestione dell'architettura dei Big Data - manichini

Aspetti nella gestione dell'architettura dei Big Data - manichini

Sommario:

Video: Human brain project in poche parole: Sanzio Bassini at TEDxBologna 2025

Video: Human brain project in poche parole: Sanzio Bassini at TEDxBologna 2025
Anonim

L'architettura dei Big Data deve anche esibirsi di concerto con l'infrastruttura di supporto della tua organizzazione. Ad esempio, potresti essere interessato a eseguire modelli per determinare se è sicuro trivellare per petrolio in un'area offshore dati dati in tempo reale di temperatura, salinità, risospensione dei sedimenti e una miriade di altre proprietà biologiche, chimiche e fisiche di la colonna d'acqua.

Potrebbero essere necessari giorni per eseguire questo modello utilizzando una configurazione server tradizionale. Tuttavia, utilizzando un modello di calcolo distribuito, ciò che impiegava giorni potrebbe richiedere alcuni minuti.

Le prestazioni potrebbero anche determinare il tipo di database che si desidera utilizzare. Ad esempio, in alcune situazioni, potresti voler capire come sono collegati due elementi di dati molto distinti. Qual è la relazione tra buzz su un social network e la crescita delle vendite? Questa non è la tipica query che si potrebbe chiedere a un database relazionale strutturato.

Un database di grafici potrebbe essere una scelta migliore, poiché è specificamente progettato per separare i "nodi" o entità dalle sue "proprietà" o le informazioni che definiscono quell'entità, e il "bordo" o relazione tra nodi e proprietà. Anche l'utilizzo del database corretto migliorerà le prestazioni. In genere il database grafico verrà utilizzato in applicazioni scientifiche e tecniche.

Altri approcci importanti al database operativo includono i database colonnari che memorizzano le informazioni in modo efficiente in colonne piuttosto che in righe. Questo approccio porta a prestazioni più veloci perché l'input / output è estremamente veloce. Quando l'archiviazione dei dati geografici è parte dell'equazione, un database spaziale è ottimizzato per archiviare e interrogare i dati in base a come gli oggetti sono correlati nello spazio.

Organizzazione di servizi e strumenti per big data

Non tutti i dati utilizzati dalle organizzazioni sono operativi. Una quantità crescente di dati proviene da una varietà di fonti che non sono altrettanto organizzate o dirette, compresi i dati provenienti da macchine o sensori e enormi fonti di dati pubbliche e private. In passato, la maggior parte delle aziende non era in grado né di acquisire né archiviare questa enorme quantità di dati. Era semplicemente troppo costoso o troppo opprimente.

Anche se le aziende fossero in grado di acquisire i dati, non avevano gli strumenti per fare qualcosa al riguardo. Pochissimi strumenti potrebbero dare un senso a queste enormi quantità di dati. Gli strumenti esistenti erano complessi da usare e non producevano risultati in tempi ragionevoli.

Alla fine, coloro che volevano davvero dedicarsi all'enorme sforzo di analizzare questi dati furono costretti a lavorare con istantanee di dati.Questo ha l'effetto indesiderato di perdere eventi importanti perché non erano in una particolare istantanea.

MapReduce, Hadoop e Big Table per i big data

Con l'evoluzione della tecnologia informatica, è ora possibile gestire enormi volumi di dati. I prezzi dei sistemi sono diminuiti e, di conseguenza, le nuove tecniche di calcolo distribuito sono mainstream. La vera svolta è avvenuta in aziende come Yahoo!, Google e Facebook hanno capito che avevano bisogno di aiuto per monetizzare le enormi quantità di dati che stavano creando.

Queste aziende emergenti avevano bisogno di trovare nuove tecnologie che consentissero loro di archiviare, accedere e analizzare enormi quantità di dati in tempo quasi reale in modo che potessero monetizzare i vantaggi di possedere molti dati sui partecipanti nelle loro reti.

Le loro soluzioni risultanti stanno trasformando il mercato della gestione dei dati. In particolare, le innovazioni MapReduce, Hadoop e Big Table hanno dimostrato di essere le scintille che hanno portato a una nuova generazione di gestione dei dati. Queste tecnologie affrontano uno dei problemi più fondamentali: la capacità di elaborare enormi quantità di dati in modo efficiente, a costi contenuti e in modo tempestivo.

MapReduce

MapReduce è stato progettato da Google come un modo per eseguire in modo efficiente una serie di funzioni rispetto a una grande quantità di dati in modalità batch. Il componente "map" distribuisce il problema o le attività di programmazione su un numero elevato di sistemi e gestisce la posizione delle attività. Bilancia anche il carico e gestisce il recupero degli errori. Un'altra funzione chiamata "reduce" aggrega tutti gli elementi di nuovo insieme per fornire un risultato.

Big Table

Big Table è stato sviluppato da Google per essere un sistema di storage distribuito destinato a gestire dati strutturati altamente scalabili. I dati sono organizzati in tabelle con righe e colonne. A differenza di un modello di database relazionale tradizionale, Big Table è una mappa ordinata multidimensionale sparsa, distribuita e persistente. È destinato a memorizzare enormi volumi di dati tra i server di merci.

Hadoop

Hadoop è un framework software gestito da Apache derivato da MapReduce e Big Table. Hadoop consente alle applicazioni basate su MapReduce di funzionare su grandi cluster di hardware di base. Il progetto è la base dell'architettura informatica che supporta Yahoo! affari. Hadoop è progettato per parallelizzare l'elaborazione dei dati tra i nodi di elaborazione per velocizzare i calcoli e nascondere la latenza.

Esistono due componenti principali di Hadoop: un file system distribuito massicciamente scalabile in grado di supportare petabyte di dati e un motore MapReduce massicciamente scalabile che calcola i risultati in batch.

Aspetti nella gestione dell'architettura dei Big Data - manichini

Scelta dell'editore

Come salvare le immagini in un file immagine in R - dummies

Come salvare le immagini in un file immagine in R - dummies

Se vuoi pubblicare le tue risultati, è necessario salvare la trama in un file in R e quindi importare questo file grafico in un altro documento. Tuttavia, per la maggior parte del tempo, potresti semplicemente voler utilizzare la grafica R in modo interattivo per esplorare i tuoi dati. Per salvare un grafico su un'immagine ...

Come cercare più parole in R - dummies

Come cercare più parole in R - dummies

Quando si lavora con il testo in R, potrebbe essere necessario per trovare parole o motivi all'interno del testo. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quali nomi di stato consistono in due parole. Per trovare sottostringhe, è possibile utilizzare la funzione grep (), che prende due argomenti essenziali: ...

Come cercare le singole parole in R - dummies

Come cercare le singole parole in R - dummies

Quando lavori con il testo, spesso tu può risolvere i problemi se riesci a trovare parole o motivi all'interno del testo. R rende questo facile da fare. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quale di questi stati contiene la parola Nuovo. Per indagare su questo ...

Scelta dell'editore

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Una detrazione fiscale è qualcosa che puoi vedere nell'esame di licenza immobiliare che puoi detrarre dal reddito di un investimento immobiliare per ridurre le tasse. Un credito d'imposta è qualcosa che puoi detrarre dalle tasse dovute. I governi federali e talvolta statali creano programmi che consentono crediti d'imposta o detrazioni per ...

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Valore doesn ' semplicemente succede; le persone devono crearlo. La maggior parte di queste azioni personali che saranno trattate durante l'esame di licenza immobiliare, di solito chiamate influenze economiche, non sono altro che normali comportamenti umani. Il test pone due tipi di domande su questi principi o fattori economici. Vedrai domande sulle definizioni e ...

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Pur calcolando la tassa le tariffe non sono qualcosa che devi sapere esattamente come fare per l'esame di licenza immobiliare, è qualcosa che devi capire in generale per rispondere a domande di non-matematica sul processo. Sapere come calcolare le tasse non è una cosa brutta da sapere, perché probabilmente si pagano le tasse di proprietà e ...

Scelta dell'editore

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

La maggior parte dei giochi di logica sull'LSAT hanno tre, quattro o cinque condizioni o regole che limitano il modo in cui giochi con i pezzi. Per ordinare i giochi, le restrizioni forniscono indizi su come i pezzi possono essere posizionati in relazione l'uno con l'altro. I tipi comuni di regole di ordinazione sono obiettivi, distanziatori e arrangiatori. Regole di destinazione I bersagli danno ...

Come gestire il tuo tempo con saggezza sul TASC - dummies

Come gestire il tuo tempo con saggezza sul TASC - dummies

Perché ogni sezione del TASC, oppure Prova l'esame di completamento secondario, ha un limite di tempo, vorrai essere consapevole di quanto tempo è passato mentre stai facendo il test. Un modo per gestire efficacemente il tuo tempo è semplicemente indossando un orologio. I centri di test potrebbero non avere sempre un orologio disponibile e ...

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Non è possibile effettuare SSAT o ISEE più facile, ma puoi iniziare la giornata di test correttamente e renderlo più semplice e meno stressante, il che può portare a risultati migliori durante l'esame di ammissione. Ecco alcuni suggerimenti da tenere a mente al giorno del test SSAT o ISEE: riposati molto. La ...