Casa Finanza personale Come testare il modello di analisi predittiva - dummies

Come testare il modello di analisi predittiva - dummies

Sommario:

Video: Ogni quanto controllare le vibrazioni dei ventilatori? - Come fare manutenzione predittiva. 2025

Video: Ogni quanto controllare le vibrazioni dei ventilatori? - Come fare manutenzione predittiva. 2025
Anonim

Per poter testare il modello di analisi predittiva che hai creato, devi dividere il set di dati in due set: set di dati di addestramento e test. Questi set di dati dovrebbero essere selezionati casualmente e dovrebbero essere una buona rappresentazione della popolazione reale.

  • I dati simili dovrebbero essere usati sia per i set di dati di addestramento che di test.

  • Normalmente il set di dati di addestramento è significativamente più grande del set di dati di test.

  • L'utilizzo del set di dati di test consente di evitare errori come il sovradattamento.

  • Il modello addestrato viene eseguito in base ai dati del test per vedere quanto bene il modello si esibirà.

Alcuni scienziati di dati preferiscono disporre di un terzo set di dati con caratteristiche simili a quelle dei primi due: un dataset di convalida . L'idea è che se stai utilizzando attivamente i dati del test per perfezionare il tuo modello, dovresti utilizzare un set separato (terzo) per verificare la precisione del modello.

Avere un dataset di validazione, che non è stato usato come parte del processo di sviluppo del modello, aiuta a garantire una stima neutrale dell'accuratezza e dell'efficacia del modello.

Se hai costruito più modelli utilizzando vari algoritmi, l'esempio di convalida può anche aiutarti a valutare quale modello ha il rendimento migliore.

Assicurati di ricontrollare il tuo lavoro sviluppando e testando il modello. In particolare, sii scettico se le prestazioni o l'accuratezza del modello sembrano troppo belle per essere vere. Gli errori possono accadere dove meno te li aspetti. Il calcolo errato delle date per i dati delle serie temporali, ad esempio, può portare a risultati errati.

Come utilizzare la convalida incrociata

La convalida incrociata è una tecnica popolare che è possibile utilizzare per valutare e convalidare il modello. Lo stesso principio dell'utilizzo di set di dati separati per test e training si applica qui: i dati di addestramento vengono utilizzati per costruire il modello; il modello viene eseguito rispetto al set di test per prevedere i dati che non ha mai visto prima, il che è un modo per valutarne l'accuratezza.

Nella convalida incrociata, i dati storici sono suddivisi in X numeri di sottoinsiemi. Ogni volta che viene scelto un sottoinsieme come dati di test, il resto dei sottoinsiemi viene utilizzato come dati di allenamento. Quindi, alla prossima esecuzione, il primo set di test diventa uno dei set di allenamento e uno degli ex set di allenamento diventa il set di test.

Il processo continua fino a quando ogni sottoinsieme di quel numero X di serie è stato utilizzato come set di test.

Ad esempio, immagina di avere un set di dati che hai diviso in 5 set numerati da 1 a 5. Nella prima, usi set 1 come set di test e usa set 2, 3, 4 e 5 come set di allenamento.Quindi, nella seconda corsa, si utilizza il set 2 come set di test e si impostano 1, 3, 4 e 5 come set di allenamento.

Continui questo processo fino a quando ogni sottoinsieme dei 5 set è stato usato come set di test.

La convalida incrociata consente di utilizzare tutti i punti dati nei dati storici per la formazione e il test. Questa tecnica è più efficace della semplice suddivisione dei dati storici in due set, utilizzando il set con il maggior numero di dati per l'allenamento, utilizzando l'altro set per i test e lasciandolo per quello.

Quando esegui una convalida incrociata dei dati, ti stai proteggendo dal prelievo casuale di dati di test che è troppo facile da prevedere, il che ti darebbe la falsa impressione che il tuo modello sia accurato. Oppure, se ti capita di raccogliere dati di test troppo difficili da prevedere, potresti falsamente concludere che il tuo modello non funziona come speravi.

La convalida incrociata è ampiamente utilizzata non solo per convalidare la precisione dei modelli, ma anche per confrontare le prestazioni di più modelli.

Come bilanciare il bias e la varianza

Il bias e la varianza sono due fonti di errori che possono verificarsi mentre si sta costruendo il modello analitico.

Bias è il risultato della costruzione di un modello che semplifica in modo significativo la presentazione delle relazioni tra i punti di dati nei dati storici utilizzati per costruire il modello.

La varianza è il risultato della creazione di un modello esplicitamente specifico dei dati utilizzati per costruire il modello.

Raggiungere un equilibrio tra bias e varianza - riducendo la varianza e tollerando qualche pregiudizio - può portare a un modello predittivo migliore. Questo trade-off di solito porta alla costruzione di modelli predittivi meno complessi.

Molti algoritmi di data mining sono stati creati per tenere conto di questo compromesso tra bias e varianza.

Come risolvere le idee

Quando stai testando il tuo modello e ti ritrovi a non andare da nessuna parte, ecco alcune idee da prendere in considerazione che potrebbero aiutarti a tornare in pista:

  • Controlla sempre il tuo lavoro. Potresti aver trascurato qualcosa che ritenevi corretto ma non lo è. Tali difetti potrebbero essere visualizzati (ad esempio) tra i valori di una variabile predittiva nel set di dati o nella preelaborazione applicata ai dati.

  • Se l'algoritmo che hai scelto non sta dando alcun risultato, prova un altro algoritmo. Ad esempio, provi diversi algoritmi di classificazione disponibili e, a seconda dei tuoi dati e degli obiettivi di business del tuo modello, uno di questi può avere prestazioni migliori degli altri.

  • Prova a selezionare variabili diverse o a creare nuove variabili derivate. Essere sempre alla ricerca di variabili che hanno poteri predittivi.

  • Consulta frequentemente gli esperti del settore aziendale che possono aiutarti a comprendere i dati, selezionare le variabili e interpretare i risultati del modello.

Come testare il modello di analisi predittiva - dummies

Scelta dell'editore

Il programma in cinque passaggi per superare la menopausa - dummy

Il programma in cinque passaggi per superare la menopausa - dummy

Alcune donne capiscono a malapena che la menopausa è loro. Altre donne, tuttavia, sono meno fortunate. Se sei uno di questi, prendi in mano questi pochi modi per rendere la tua esperienza più facile per te stesso: capisci e accetta che stai attraversando una transizione naturale, proprio come la pubertà. Fortunatamente, sei più vecchio e più saggio di te ...

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa segna la fine della fase riproduttiva della tua vita e così è un momento significativo di cambiamento fisico, emotivo e mentale per molte donne ma, per generazioni, donne di tutte le età hanno vagato alla cieca in menopausa senza sapere cosa aspettarsi. Qui puoi scoprire alcune delle nozioni di base.

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Mestruazioni e menopausa sono ben noti biologici pietre miliari nella vita di una femmina. Contrariamente al pensiero popolare, la menopausa non è il periodo di mesi o anni in cui una donna sta "attraversando il cambiamento". "Questo lasso di tempo è chiamato perimenopausa. La menopausa è una data effettiva nel tempo. In particolare, è il 12 ° anniversario dell'ultimo ciclo mestruale di una donna. ...

Scelta dell'editore

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

È Possibile creare un filtro automatico personalizzato . Per fare ciò, seleziona il comando Filtro testo dal menu della tabella e scegli una delle opzioni di filtro del testo. Indipendentemente dall'opzione di filtro del testo selezionata, Excel visualizza la finestra di dialogo Filtro automatico personalizzato. Questa finestra di dialogo consente di specificare con estrema precisione quali record si desidera ...

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

DPRODUCT moltiplica i valori che corrispondono al criterio in un database Excel. Questo è potente ma anche in grado di produrre risultati che non sono l'intenzione. In altre parole, è una cosa da aggiungere e ricavare una somma. Questa è un'operazione comune su un set di dati. Osservando la seguente figura, è possibile ...

Come utilizzare la funzione DPRODUCT in Excel - dummy

Come utilizzare la funzione DPRODUCT in Excel - dummy

La funzione DPRODUCT in Excel è strana. La funzione DPRODUCT moltiplica i valori nei campi da un elenco di database in base ai criteri di selezione. Perché vorresti farlo? Chissà. La funzione utilizza la sintassi = DPRODUCT (database, campo, criteri) in cui il database è un riferimento all'intervallo alla tabella di Excel che contiene il valore desiderato ...

Scelta dell'editore

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Ci sono un paio di cose a cui vuoi pensare quando riutilizzi i nomi nella tua app per Android. È possibile dichiarare due variabili Java - bag1 e bag2 - per fare riferimento a due diversi oggetti BagOfCheese. Va bene. Ma a volte, avere solo una variabile e riutilizzarla per il secondo oggetto funziona altrettanto bene, ...

Java: Mettere a frutto l'uso della classe - dummies

Java: Mettere a frutto l'uso della classe - dummies

La classe Employee nell'elenco non ha alcun metodo principale , quindi non c'è un punto di partenza per l'esecuzione del codice. Per risolvere questo problema, il programmatore scrive un programma separato con un metodo principale e utilizza tale programma per creare istanze Employee. Questo elenco di codici mostra una classe con un metodo principale - uno che inserisce il ...

Classi wrapper java - dummies

Classi wrapper java - dummies

La differenza tra tipi primitivi e tipi di riferimento è una delle funzionalità più controverse di Java e gli sviluppatori si lamentano spesso sulle differenze tra valori primitivi e valori di riferimento. Ogni tipo primitivo viene cotto nella lingua. Java ha otto tipi primitivi. Ogni tipo di riferimento è una classe o un'interfaccia. È possibile definire il proprio ...