Casa Finanza personale Evitando Sample Bias e Leakage Traps in Machine Learning - dummies

Evitando Sample Bias e Leakage Traps in Machine Learning - dummies

Video: Dr Who Review, Part 9 - The Wilderness Years & The Paul McGann Era 2025

Video: Dr Who Review, Part 9 - The Wilderness Years & The Paul McGann Era 2025
Anonim

L'approccio di convalida all'apprendimento automatico è un esame di un possibile rimedio al bias in campionamento. Il bias nel campionamento può capitare ai tuoi dati prima che l'apprendimento automatico venga messo in atto e provoca un'alta varianza delle seguenti stime. Inoltre, è necessario essere consapevoli delle trappole di dispersione che possono verificarsi quando alcune informazioni dall'esterno del campione passano ai dati in-sample. Questo problema può sorgere quando si preparano i dati o dopo che il modello di apprendimento automatico è pronto e funzionante.

Il rimedio, che è chiamato ensemble di predittori, funziona perfettamente quando il campione di allenamento non è completamente distorto e la sua distribuzione è diversa dall'esempio, ma non in modo irrimediabile, ad esempio come quando tutte le tue classi sono presenti ma non nella giusta proporzione (ad esempio). In questi casi, i risultati sono influenzati da una certa varianza delle stime che è possibile stabilizzare in uno dei vari modi: ricampionando, come nel bootstrap; sottocampionamento (prelevando un campione del campione); o usando campioni più piccoli (che aumentano il bias).

Per capire come funziona l'insieme in modo così efficace, visualizza l'immagine di un bue. Se il tuo campione influisce sulle previsioni, alcune previsioni saranno esatte e altre saranno errate in modo casuale. Se cambi il tuo campione, le previsioni corrette continueranno a essere corrette, ma quelle sbagliate inizieranno a essere variazioni tra valori diversi. Alcuni valori saranno la previsione esatta che stai cercando; altri oscilleranno attorno a quello giusto.

Confrontando i risultati, puoi indovinare che ciò che è ricorrente è la risposta giusta. Puoi anche prendere una media delle risposte e indovinare che la risposta giusta dovrebbe essere nel mezzo dei valori. Con il gioco a occhio di bue, puoi visualizzare le foto sovrapposte di diversi giochi: se il problema è la varianza, alla fine indovinerai che il bersaglio si trova nell'area colpita più frequentemente o almeno al centro di tutti gli scatti.

Nella maggior parte dei casi, tale approccio risulta corretto e migliora molto le previsioni di apprendimento automatico. Quando il tuo problema è di bias e non di varianza, l'uso di ensembling non causa alcun danno a meno che non si sottocampionino troppo pochi campioni. Una buona regola empirica per il sottocampionamento consiste nel prelevare un campione dal 70% al 90% rispetto ai dati originali nel campione. Se vuoi fare un lavoro di ensembling, devi fare quanto segue:

  • Scorrere un gran numero di volte attraverso i tuoi dati e modelli (da un minimo di tre iterazioni a idealmente centinaia di volte).
  • Ogni volta che iterate, sottocampione (o altro bootstrap) i vostri dati in-sample.
  • Utilizzare l'apprendimento automatico per il modello sui dati ricampionati e prevedere i risultati fuori campione. Conservare questi risultati lontano per un uso successivo.
  • Alla fine delle iterazioni, per ogni caso fuori campione che si desidera prevedere, prendere tutte le sue previsioni e fare una media di esse se si sta facendo una regressione. Prendi la classe più frequente se stai facendo una classificazione.

Le trappole di dispersione possono sorprenderti perché possono rivelarsi una fonte sconosciuta e non individuata di problemi con i tuoi processi di apprendimento automatico. Il problema è ficcanaso, o altrimenti osservare troppo i dati fuori campione e adattarsi troppo spesso. In breve, lo snooping è una sorta di sovradattamento - e non solo sui dati di allenamento ma anche sui dati di test, rendendo più difficile da rilevare il problema del sovradattamento fino a quando non si ottengono nuovi dati.

Di solito ti rendi conto che il problema è ficcanaso quando hai già applicato l'algoritmo di apprendimento automatico alla tua azienda o ad un servizio per il pubblico, rendendo il problema un problema che tutti possono vedere.

È possibile evitare lo snooping in due modi. Innanzitutto, quando si opera sui dati, fare attenzione a separare nettamente formazione, convalida e dati di test. Inoltre, durante l'elaborazione, non prendere mai alcuna informazione dalla convalida o dal test, nemmeno gli esempi più semplici e innocenti. Peggio ancora è applicare una trasformazione complessa usando tutti i dati.

In finanza, ad esempio, è risaputo che il calcolo della media e della deviazione standard (che può effettivamente dirti parecchio sulle condizioni e sui rischi del mercato) da tutti i dati di addestramento e di test può far trapelare preziose informazioni sui tuoi modelli. Quando si verifica una perdita, gli algoritmi di apprendimento automatico eseguono previsioni sul set di test piuttosto che dati fuori campione dai mercati, il che significa che non hanno funzionato affatto, causando quindi una perdita di denaro.

Verifica le prestazioni dei tuoi esempi fuori dal campione. In effetti, puoi riportare alcune informazioni dal tuo spionaggio sui risultati del test per aiutarti a determinare che alcuni parametri sono migliori di altri, o indurti a scegliere un algoritmo di apprendimento automatico invece di un altro. Per ogni modello o parametro, applicare la propria scelta in base ai risultati della convalida incrociata o dall'esempio di convalida. Non cadere mai per ottenere takeaway dai tuoi dati fuori campione o te ne pentirai più tardi.

Evitando Sample Bias e Leakage Traps in Machine Learning - dummies

Scelta dell'editore

Il programma in cinque passaggi per superare la menopausa - dummy

Il programma in cinque passaggi per superare la menopausa - dummy

Alcune donne capiscono a malapena che la menopausa è loro. Altre donne, tuttavia, sono meno fortunate. Se sei uno di questi, prendi in mano questi pochi modi per rendere la tua esperienza più facile per te stesso: capisci e accetta che stai attraversando una transizione naturale, proprio come la pubertà. Fortunatamente, sei più vecchio e più saggio di te ...

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa For Dummies Cheat Sheet (edizione UK) - dummies

Menopausa segna la fine della fase riproduttiva della tua vita e così è un momento significativo di cambiamento fisico, emotivo e mentale per molte donne ma, per generazioni, donne di tutte le età hanno vagato alla cieca in menopausa senza sapere cosa aspettarsi. Qui puoi scoprire alcune delle nozioni di base.

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Perimenopausa: facilitare la transizione dalle mestruazioni alla menopausa - manichini

Mestruazioni e menopausa sono ben noti biologici pietre miliari nella vita di una femmina. Contrariamente al pensiero popolare, la menopausa non è il periodo di mesi o anni in cui una donna sta "attraversando il cambiamento". "Questo lasso di tempo è chiamato perimenopausa. La menopausa è una data effettiva nel tempo. In particolare, è il 12 ° anniversario dell'ultimo ciclo mestruale di una donna. ...

Scelta dell'editore

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

Come utilizzare il filtro automatico personalizzato su una tabella di Excel - dummies

È Possibile creare un filtro automatico personalizzato . Per fare ciò, seleziona il comando Filtro testo dal menu della tabella e scegli una delle opzioni di filtro del testo. Indipendentemente dall'opzione di filtro del testo selezionata, Excel visualizza la finestra di dialogo Filtro automatico personalizzato. Questa finestra di dialogo consente di specificare con estrema precisione quali record si desidera ...

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

Come utilizzare la funzione DPRODUCT in un database Excel - dummies

DPRODUCT moltiplica i valori che corrispondono al criterio in un database Excel. Questo è potente ma anche in grado di produrre risultati che non sono l'intenzione. In altre parole, è una cosa da aggiungere e ricavare una somma. Questa è un'operazione comune su un set di dati. Osservando la seguente figura, è possibile ...

Come utilizzare la funzione DPRODUCT in Excel - dummy

Come utilizzare la funzione DPRODUCT in Excel - dummy

La funzione DPRODUCT in Excel è strana. La funzione DPRODUCT moltiplica i valori nei campi da un elenco di database in base ai criteri di selezione. Perché vorresti farlo? Chissà. La funzione utilizza la sintassi = DPRODUCT (database, campo, criteri) in cui il database è un riferimento all'intervallo alla tabella di Excel che contiene il valore desiderato ...

Scelta dell'editore

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Programmazione con Java: riutilizzo dei nomi nella tua app per Android - dummies

Ci sono un paio di cose a cui vuoi pensare quando riutilizzi i nomi nella tua app per Android. È possibile dichiarare due variabili Java - bag1 e bag2 - per fare riferimento a due diversi oggetti BagOfCheese. Va bene. Ma a volte, avere solo una variabile e riutilizzarla per il secondo oggetto funziona altrettanto bene, ...

Java: Mettere a frutto l'uso della classe - dummies

Java: Mettere a frutto l'uso della classe - dummies

La classe Employee nell'elenco non ha alcun metodo principale , quindi non c'è un punto di partenza per l'esecuzione del codice. Per risolvere questo problema, il programmatore scrive un programma separato con un metodo principale e utilizza tale programma per creare istanze Employee. Questo elenco di codici mostra una classe con un metodo principale - uno che inserisce il ...

Classi wrapper java - dummies

Classi wrapper java - dummies

La differenza tra tipi primitivi e tipi di riferimento è una delle funzionalità più controverse di Java e gli sviluppatori si lamentano spesso sulle differenze tra valori primitivi e valori di riferimento. Ogni tipo primitivo viene cotto nella lingua. Java ha otto tipi primitivi. Ogni tipo di riferimento è una classe o un'interfaccia. È possibile definire il proprio ...