Casa Finanza personale Come pulire i dati per Predictive Analysis - dummies

Come pulire i dati per Predictive Analysis - dummies

Video: Ogni quanto controllare le vibrazioni dei ventilatori? - Come fare manutenzione predittiva. 2025

Video: Ogni quanto controllare le vibrazioni dei ventilatori? - Come fare manutenzione predittiva. 2025
Anonim

Prima di eseguire un'analisi predittiva, devi assicurarti che i dati siano puliti da cose estranee prima che tu possa utilizzarli nel tuo modello. Ciò include la ricerca e la correzione di tutti i record che contengono valori errati e il tentativo di inserire eventuali valori mancanti. Dovrai anche decidere se includere record duplicati (due account cliente, ad esempio).

L'obiettivo generale è garantire l'integrità delle informazioni che stai utilizzando per costruire il tuo modello predittivo. Prestare particolare attenzione alla completezza, correttezza e tempestività dei dati.

È utile creare statistiche descrittive (caratteristiche quantitative) per vari campi, come il calcolo di min e max, controllo distribuzione di frequenza (quanto spesso accade qualcosa) e verificando gli intervalli previsti. L'esecuzione di un controllo regolare può aiutare a segnalare eventuali dati al di fuori dell'intervallo previsto per ulteriori indagini. Qualsiasi documento che mostra i pensionati con date di nascita negli anni '90 può essere contrassegnato da questo metodo.

Inoltre, il controllo incrociato delle informazioni è importante per garantire che i dati siano accurati. Per un'analisi più approfondita delle caratteristiche dei dati e l'identificazione della relazione tra i record di dati, è possibile utilizzare profiling dati (analisi della disponibilità dei dati e raccolta di statistiche sulla qualità dei dati) e strumenti di visualizzazione.

I dati mancanti potrebbero essere dovuti al fatto che informazioni particolari non sono state registrate. In tal caso, puoi tentare di riempire il più possibile; i valori predefiniti adatti possono essere facilmente aggiunti per riempire gli spazi vuoti di determinati campi.

Ad esempio, per i pazienti in un reparto maternità ospedaliero in cui al campo di genere manca un valore, l'applicazione può semplicemente riempirlo come femminile. Del resto, per ogni maschio che è stato ammesso in un ospedale con un record mancante per lo stato di gravidanza, tale registrazione può essere compilata allo stesso modo in quanto non applicabile.

Un codice postale mancante per un indirizzo può essere dedotto dal nome della via e dalla città fornita in quell'indirizzo.

Nei casi in cui l'informazione è sconosciuta o non può essere dedotta, è necessario utilizzare valori altro di uno spazio vuoto per indicare che i dati sono mancanti senza influire sulla correttezza dell'analisi. Uno spazio vuoto nei dati può significare più cose, molte delle quali non sono né buone né utili. Ogni volta che puoi, devi specificare la natura di quel vuoto con un riempitivo significativo.

Proprio come è possibile definire una rosa in un campo di grano come un'erbaccia, i valori anomali possono significare cose diverse per analisi diverse.È normale che alcuni modelli siano costruiti esclusivamente per tracciare quei valori anomali e contrassegnarli.

I modelli di rilevamento delle frodi e il monitoraggio delle attività criminali sono interessati a quei valori anomali, che in tali casi indicano che si sta verificando qualcosa di indesiderato. Pertanto, è consigliabile mantenere i valori anomali nel set di dati in casi come questi. Tuttavia, quando i valori anomali sono considerati anomalie all'interno dei dati, e si limitano a distorcere le analisi e portare a risultati errati, rimuoverli dai dati.

La duplicazione dei dati può anche essere utile o fastidiosa; alcuni di essi possono essere necessari, possono indicare un valore e possono riflettere uno stato accurato dei dati. Ad esempio, un record di un cliente con più account può essere rappresentato con più voci che sono (tecnicamente, comunque) duplicate e ripetitive degli stessi record.

Allo stesso modo, quando i record duplicati non apportano valore all'analisi e non sono necessari, rimuoverli può essere di enorme valore. Ciò è particolarmente vero per dataset di grandi dimensioni in cui la rimozione di record duplicati può semplificare la complessità dei dati e ridurre il tempo necessario per l'analisi.

È possibile impedire preventivamente l'inserimento di dati errati nei sistemi adottando alcune procedure specifiche:

  • Verifica della qualità dell'Istituto e convalida dei dati per tutti i dati raccolti.

  • Consenti ai tuoi clienti di convalidare e correggere automaticamente i propri dati personali.

  • Fornisci ai tuoi clienti i valori possibili e attesi tra cui scegliere.

  • Eseguire regolarmente controlli sull'integrità, coerenza e accuratezza dei dati.

Come pulire i dati per Predictive Analysis - dummies

Scelta dell'editore

Come salvare le immagini in un file immagine in R - dummies

Come salvare le immagini in un file immagine in R - dummies

Se vuoi pubblicare le tue risultati, è necessario salvare la trama in un file in R e quindi importare questo file grafico in un altro documento. Tuttavia, per la maggior parte del tempo, potresti semplicemente voler utilizzare la grafica R in modo interattivo per esplorare i tuoi dati. Per salvare un grafico su un'immagine ...

Come cercare più parole in R - dummies

Come cercare più parole in R - dummies

Quando si lavora con il testo in R, potrebbe essere necessario per trovare parole o motivi all'interno del testo. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quali nomi di stato consistono in due parole. Per trovare sottostringhe, è possibile utilizzare la funzione grep (), che prende due argomenti essenziali: ...

Come cercare le singole parole in R - dummies

Come cercare le singole parole in R - dummies

Quando lavori con il testo, spesso tu può risolvere i problemi se riesci a trovare parole o motivi all'interno del testo. R rende questo facile da fare. Immagina di avere una lista degli stati negli Stati Uniti e vuoi scoprire quale di questi stati contiene la parola Nuovo. Per indagare su questo ...

Scelta dell'editore

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Come calcolare le detrazioni e i crediti di imposta sugli investimenti immobiliari per l'esame di licenza immobiliare

Una detrazione fiscale è qualcosa che puoi vedere nell'esame di licenza immobiliare che puoi detrarre dal reddito di un investimento immobiliare per ridurre le tasse. Un credito d'imposta è qualcosa che puoi detrarre dalle tasse dovute. I governi federali e talvolta statali creano programmi che consentono crediti d'imposta o detrazioni per ...

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Fattori economici che influenzano il valore per l'esame di licenza immobiliare - dummies

Valore doesn ' semplicemente succede; le persone devono crearlo. La maggior parte di queste azioni personali che saranno trattate durante l'esame di licenza immobiliare, di solito chiamate influenze economiche, non sono altro che normali comportamenti umani. Il test pone due tipi di domande su questi principi o fattori economici. Vedrai domande sulle definizioni e ...

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Come calcolare le aliquote fiscali per l'esame di licenza immobiliare - dummy

Pur calcolando la tassa le tariffe non sono qualcosa che devi sapere esattamente come fare per l'esame di licenza immobiliare, è qualcosa che devi capire in generale per rispondere a domande di non-matematica sul processo. Sapere come calcolare le tasse non è una cosa brutta da sapere, perché probabilmente si pagano le tasse di proprietà e ...

Scelta dell'editore

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

Suggerimenti per la registrazione Regole di gioco logiche sull'LSAT - manichini

La maggior parte dei giochi di logica sull'LSAT hanno tre, quattro o cinque condizioni o regole che limitano il modo in cui giochi con i pezzi. Per ordinare i giochi, le restrizioni forniscono indizi su come i pezzi possono essere posizionati in relazione l'uno con l'altro. I tipi comuni di regole di ordinazione sono obiettivi, distanziatori e arrangiatori. Regole di destinazione I bersagli danno ...

Come gestire il tuo tempo con saggezza sul TASC - dummies

Come gestire il tuo tempo con saggezza sul TASC - dummies

Perché ogni sezione del TASC, oppure Prova l'esame di completamento secondario, ha un limite di tempo, vorrai essere consapevole di quanto tempo è passato mentre stai facendo il test. Un modo per gestire efficacemente il tuo tempo è semplicemente indossando un orologio. I centri di test potrebbero non avere sempre un orologio disponibile e ...

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Rendendo più semplice il giorno di prova SSAT o ISEE - manichini

Non è possibile effettuare SSAT o ISEE più facile, ma puoi iniziare la giornata di test correttamente e renderlo più semplice e meno stressante, il che può portare a risultati migliori durante l'esame di ammissione. Ecco alcuni suggerimenti da tenere a mente al giorno del test SSAT o ISEE: riposati molto. La ...