Casa Finanza personale Servizi middleware: garanzia della qualità dei dati - manichini

Servizi middleware: garanzia della qualità dei dati - manichini

Sommario:

Video: Le mie 5 (+1) distribuzioni Linux alternative ad Ubuntu (per ambito d'uso) 2025

Video: Le mie 5 (+1) distribuzioni Linux alternative ad Ubuntu (per ambito d'uso) 2025
Anonim

È necessario stabilire due diversi servizi di garanzia della qualità (QA) nel flusso di servizi middleware. È necessario eseguire le prime attività di controllo qualità con l'estratto dall'origine dati prima di eseguire altri servizi middleware.

Garanzia della qualità dei dati: parte I

Cercare di individuare (e correggere) errori e problemi il prima possibile. Spostare i dati lungo la pipeline verso il data warehouse è inutile se i problemi sono così significativi da richiedere uno sforzo significativamente maggiore per correggere in un secondo momento o semplicemente non possono essere corretti.

Quindi, quali tipi di problemi dovresti cercare? Eccone alcuni:

  • Valori negli elementi di dati che superano un intervallo ragionevole: Un cliente ha inviato 150 milioni di ordini di acquisto nel mese scorso, ad esempio, o un dipendente ha lavorato con l'azienda per 4, 297 anni, secondo il database dei dipendenti e la data di assunzione memorizzata.

  • Valori negli elementi di dati che non si adattano alla lista ufficiale e completa dei valori ammessi: Un valore potrebbe avere un codice A, ad esempio, quando gli unici valori ammessi per quel campo sono M e F. (Se quel campo era etichettato come GENDER, A potrebbe essere sinonimo di androgino!)

  • Incoerenze tra tabelle: Per le voci nella tabella CUSTOMER_ORDER, non esistono voci corrispondenti (come identificato da CUSTOMER_ID) in CUSTOMER_MASTER_TABLE.

  • Incoerenze tra campi: Record con stato o codice postale errato per la città indicata.

  • Valori mancanti: record con valori mancanti in determinati campi in cui dovrebbero essere contenuti.

  • Lacune di dati: Ad esempio, una tabella di origine dovrebbe contenere una riga di dati che include le unità totali vendute e le vendite di dollari per ciascun mese negli ultimi due anni. Per un numero elevato di clienti, tuttavia, non esistono righe per almeno uno di quei mesi.

  • Dati incompleti: Se le informazioni su ogni prodotto venduto dall'azienda dovrebbero essere disponibili, ad esempio, tutti i prodotti sono inclusi nell'estratto?

  • Violazioni delle regole aziendali: Se una regola aziendale stabilisce che solo un grossista può vendere prodotti a uno qualsiasi dei clienti dell'azienda, è necessario verificare se i registri dei clienti indicano vendite effettuate attraverso più di un grossista, che potrebbe indicare dati errati nella fonte.

  • Corruzione dei dati dall'ultimo estratto: Se l'estrazione avviene mensilmente, ad esempio, è necessario tenere traccia dei valori dei dati o delle somme che dovrebbero essere costanti, come le VENDITE PER CLIENTE AL MESE.Se, in un mese successivo, il valore di VENDITE PER CLIENTE AL MESE cambia per un dato cliente per un mese precedente, i dati sottostanti potrebbero essere stati danneggiati.

  • Incoerenze ortografiche: Il nome di un cliente è scritto in diversi modi, ad esempio.

Che cosa fai quando trovi dei problemi? Puoi provare una delle seguenti tecniche:

  • Applica una regola di correzione automatica. Quando trovi una ortografia inconsistente, ad esempio, esegui una ricerca in una tabella principale delle correzioni ortografiche precedenti e apporta automaticamente le modifiche ai dati.

  • Metti da parte il record per un membro del team da analizzare e correggere in seguito. In questo caso, potresti fare la parte umana del controllo qualità insieme alla correzione automatica.

    Ad esempio, vengono eseguite correzioni automatiche, se possibile, e una relazione su altri problemi viene inserita in un file separato e inviata alla persona QA. Quando la persona responsabile della qualità esegue tutte le correzioni manuali, le modifiche vengono unite ai dati che hanno attraversato il processo automatico di controllo qualità.

  • Raffredda i tuoi jet. Se riscontri abbastanza problemi che sono seri o richiedono una quantità indeterminata di ricerche, prendi in considerazione l'interruzione dell'intero processo fino a quando non trovi e risolvi il problema.

È possibile rendere il processo di controllo qualità molto più efficiente e molto meno problematico se si esegue un'analisi approfondita dei sistemi di origine. Se hai un'idea abbastanza precisa di quali tipi di problemi di dati potresti trovare in ogni fonte di dati, puoi riprogrammare il tuo processo di QA per rilevare e (si spera) correggere questi problemi prima di continuare.

Storicamente, le organizzazioni hanno trattato il processo di controllo della qualità dei dati come un flusso unidirezionale. I problemi vengono corretti prima che i dati vengano spostati ulteriormente nel flusso dei processi middleware ma non vengono mai corretti nelle origini dati. La maggior parte dei nuovi data warehouse ha un ciclo di feedback integrato dal processo di controllo qualità che corregge i problemi di qualità dei dati nei dati di origine.

Garanzia della qualità dei dati: parte II

Dopo il completamento dei processi di trasformazione, i dati devono essere sottoposti a QA - di nuovo. Non si sa mai quale tipo di errori o discrepanze potrebbe aver introdotto il processo di trasformazione nei dati. Dopo che si sono verificate modifiche, eventuali precedenti processi di controllo qualità non sono più validi.

Esegui i dati consolidati e trasformati attraverso lo stesso tipo di passaggi QA qui discussi. Anche se probabilmente non trovi molti errori rudimentali (come errori di ortografia o valori fuori dal raggio d'azione) se hai fatto un lavoro approfondito sul tuo QA di primo livello, vuoi comunque assicurarti. Inoltre, assicurati che il codice o gli script utilizzati per la trasformazione dei dati non causino accidentalmente nuovi errori.

L'obiettivo di questo QA di secondo livello è di assicurarsi che i dati consolidati e trasformati siano pronti per essere caricati nel data warehouse - non appena si verifica un ulteriore passaggio, se necessario.

Servizi middleware: garanzia della qualità dei dati - manichini

Scelta dell'editore

Il programma in cinque passaggi per superare la menopausa - dummy

Il programma in cinque passaggi per superare la menopausa - dummy

Alcune donne capiscono a malapena che la menopausa è loro. Altre donne, tuttavia, sono meno fortunate. Se sei uno di questi, prendi in mano questi pochi modi per rendere la tua esperienza più facile per te stesso: capisci e accetta che stai attraversando una transizione naturale, proprio come la pubertà. Fortunatamente, sei più vecchio e più saggio di te ...

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa segna la fine della fase riproduttiva della tua vita e così è un momento significativo di cambiamento fisico, emotivo e mentale per molte donne ma, per generazioni, donne di tutte le età hanno vagato alla cieca in menopausa senza sapere cosa aspettarsi. Qui puoi scoprire alcune delle nozioni di base.

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Mestruazioni e menopausa sono ben noti biologici pietre miliari nella vita di una femmina. Contrariamente al pensiero popolare, la menopausa non è il periodo di mesi o anni in cui una donna sta "attraversando il cambiamento". "Questo lasso di tempo è chiamato perimenopausa. La menopausa è una data effettiva nel tempo. In particolare, è il 12 ° anniversario dell'ultimo ciclo mestruale di una donna. ...

Scelta dell'editore

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

È Possibile creare un filtro automatico personalizzato . Per fare ciò, seleziona il comando Filtro testo dal menu della tabella e scegli una delle opzioni di filtro del testo. Indipendentemente dall'opzione di filtro del testo selezionata, Excel visualizza la finestra di dialogo Filtro automatico personalizzato. Questa finestra di dialogo consente di specificare con estrema precisione quali record si desidera ...

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

DPRODUCT moltiplica i valori che corrispondono al criterio in un database Excel. Questo è potente ma anche in grado di produrre risultati che non sono l'intenzione. In altre parole, è una cosa da aggiungere e ricavare una somma. Questa è un'operazione comune su un set di dati. Osservando la seguente figura, è possibile ...

Come utilizzare la funzione DPRODUCT in Excel - dummy

Come utilizzare la funzione DPRODUCT in Excel - dummy

La funzione DPRODUCT in Excel è strana. La funzione DPRODUCT moltiplica i valori nei campi da un elenco di database in base ai criteri di selezione. Perché vorresti farlo? Chissà. La funzione utilizza la sintassi = DPRODUCT (database, campo, criteri) in cui il database è un riferimento all'intervallo alla tabella di Excel che contiene il valore desiderato ...

Scelta dell'editore

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Ci sono un paio di cose a cui vuoi pensare quando riutilizzi i nomi nella tua app per Android. È possibile dichiarare due variabili Java - bag1 e bag2 - per fare riferimento a due diversi oggetti BagOfCheese. Va bene. Ma a volte, avere solo una variabile e riutilizzarla per il secondo oggetto funziona altrettanto bene, ...

Java: Mettere a frutto l'uso della classe - dummies

Java: Mettere a frutto l'uso della classe - dummies

La classe Employee nell'elenco non ha alcun metodo principale , quindi non c'è un punto di partenza per l'esecuzione del codice. Per risolvere questo problema, il programmatore scrive un programma separato con un metodo principale e utilizza tale programma per creare istanze Employee. Questo elenco di codici mostra una classe con un metodo principale - uno che inserisce il ...

Classi wrapper java - dummies

Classi wrapper java - dummies

La differenza tra tipi primitivi e tipi di riferimento è una delle funzionalità più controverse di Java e gli sviluppatori si lamentano spesso sulle differenze tra valori primitivi e valori di riferimento. Ogni tipo primitivo viene cotto nella lingua. Java ha otto tipi primitivi. Ogni tipo di riferimento è una classe o un'interfaccia. È possibile definire il proprio ...