Garantire la qualità dei dati esterni in entrata - dummy

Quando si progetta un data warehouse e si determinano i dati esterni necessari, è sufficiente effettuare un ordine (simile all'ordinare vestiti o un cesto di frutta da un sito online). Dopo aver iniziato a ricevere i dati tramite streaming, trasferimento di file o altri mezzi, la navigazione è fluida, o no?

E la qualità dei dati in arrivo? È assolutamente necessario applicare lo stesso insieme di procedure di controllo qualità (QA) ai dati forniti esternamente che si fanno ai dati provenienti dai propri sistemi interni. Solo perché acquisti le informazioni sul mercato aperto non garantisci che i dati siano impeccabili.

Applica le procedure di controllo qualità a ogni batch di dati in entrata seguendo questi passaggi:

1. Scopri se i dati in entrata hanno aggiunto i valori di controllo ai file.

   Alcuni esempi di valori di controllo sono il numero di record in ogni file, il valore totale di ciascuna colonna numerica (totale vendite di dollari per tutti i record e unità totali vendute per tutti i record, per esempio) e sottoinsiemi dei valori totali delle colonne (quantità totali di vendite e unità per stato, ad esempio).

   Se vengono forniti valori di controllo, questi devono essere memorizzati e utilizzati come parte delle procedure di caricamento end-to-end. Nessuno dovrebbe aggiornare ufficialmente il contenuto del magazzino fino a quando i totali di controllo non concordano con i calcoli che hai fatto quando hai preparato i dati per il caricamento.

2. Se non vengono forniti valori di controllo, richiederli.

   Sebbene la richiesta possa richiedere alcuni cicli (alcune settimane o mesi, ad esempio) da compilare, qualsiasi fornitore di dati interessato a fornire un servizio clienti di alto livello prende seriamente questo tipo di richiesta e si sforza di fornire le informazioni di controllo richieste a disposizione.

3. Durante le procedure di caricamento, filtra ogni riga.

   Assicurarsi che le seguenti condizioni siano vere:

   1. I tasti (identificatori univoci per ciascun record) sono corretti su tutte le informazioni. Ad esempio, se ogni record nel gruppo di dati SalesMasterRecord deve avere esattamente 12 record correlati in SalesDetailRecord (uno per ogni mese), assicurarsi che tutti i record di dettaglio siano presenti confrontando i valori della chiave del record.

   2. Gli intervalli di valori sono corretti. Le vendite di prodotti al mese, ad esempio, devono essere entro limiti ragionevoli per quel tipo di prodotto (ad esempio, gli aerei sono diversi dai bulloni).

   3. I campi di informazione mancanti (un probabile - quasi inevitabile - evento con dati forniti dall'esterno) non distorcono il significato dei dati in arrivo.

      Ad esempio, sebbene l'assenza di ulteriori dati (definiti in base alle regole aziendali per il proprio settore o organizzazione specifica) potrebbe non essere un problema troppo serio, se metà dei record in entrata ha uno spazio vuoto dove UnitsSold, TotalSalesPrice, o qualche altro tipo critico di informazioni dovrebbe essere, il valore dei dati è discutibile nel migliore dei casi.

   4. Soprattutto nelle fasi iniziali dell'acquisizione di dati esterni (i primi tre o quattro mesi, ad esempio), utilizzare gli strumenti di analisi, come descritto nel Capitolo 10, per eseguire analisi della qualità dei dati prima che gli utenti utilizzino gli stessi strumenti per svolgere attività analisi.

      Cerca stranezze, anomalie, risultati sconcertanti, incoerenze, paradossi apparenti e qualsiasi altra cosa che sembra davvero strana. Quindi, eseguire il drill-down fino alla radice dei dati per verificare la fonte della stranezza.

      Ricorda che probabilmente stai gestendo molti milioni di file di dati in arrivo: oltre a non essere in grado di controllare personalmente ogni singola riga, potresti avere difficoltà a impostare i criteri di filtro e controllo QA per ogni condizione possibile.

      Chiunque abbia mai fatto qualcosa con dati sorgente forniti esternamente ha riscontrato strani incongruenze e dati mancanti nelle informazioni in arrivo. Mettendoti al posto degli utenti e utilizzando gli stessi strumenti che usano, probabilmente puoi scoprire una cosa o due che puoi correggere, rendendo il tuo data warehouse un deposito molto migliore di preziose informazioni commerciali.