Data mining per big data - dummies

Il data mining implica l'esplorazione e l'analisi di grandi quantità di dati per trovare modelli per i big data. Le tecniche sono venute fuori dai campi delle statistiche e dell'intelligenza artificiale (AI), con un po 'di gestione del database gettato nel mix.

Generalmente, l'obiettivo del data mining è la classificazione o la previsione. In classifica, l'idea è di ordinare i dati in gruppi. Ad esempio, un marketer potrebbe essere interessato alle caratteristiche di coloro che hanno risposto rispetto a chi non ha risposto a una promozione.

Queste sono due classi. In previsione, l'idea è di predire il valore di una variabile continua. Ad esempio, un marketer potrebbe essere interessato a prevedere coloro che risponderanno a una promozione.

Gli algoritmi tipici utilizzati nel data mining includono i seguenti:

• Alberi di classificazione: Una tecnica di data mining diffusa che viene utilizzata per classificare una variabile categoriale dipendente basata sulle misurazioni di una o più variabili predittive. Il risultato è un albero con nodi e collegamenti tra i nodi che possono essere letti per formare regole if-then.

• Regressione logistica: Una tecnica statistica che è una variante della regressione standard ma estende il concetto alla classificazione. Produce una formula che prevede la probabilità dell'evento in funzione delle variabili indipendenti.

• Reti neurali: Un algoritmo software che viene modellato sull'architettura parallela dei cervelli degli animali. La rete è composta da nodi di input, livelli nascosti e nodi di output. Ad ogni unità è assegnato un peso. I dati vengono dati al nodo di input e, mediante un sistema di tentativi ed errori, l'algoritmo regola i pesi fino a quando non soddisfa determinati criteri di arresto. Alcune persone hanno paragonato questo a un approccio black-box.

• Tecniche di clustering come K-neighbor neighbor: Una tecnica che identifica gruppi di record simili. La tecnica del vicino più vicino a K calcola le distanze tra il record e i punti nei dati storici (allenamento). Assegna quindi questo record alla classe del suo vicino più vicino in un set di dati.

Ecco un esempio di albero di classificazione. Si consideri la situazione in cui un'azienda telefonica vuole determinare quali clienti residenziali sono suscettibili di disconnettere il proprio servizio.

La compagnia telefonica ha informazioni che consistono dei seguenti attributi: per quanto tempo la persona ha avuto il servizio, quanto spende il servizio, se il servizio è stato problematico, se ha il miglior piano tariffario di cui ha bisogno, dove vive, quanti anni ha, se ha altri servizi raggruppati insieme, informazioni competitive riguardanti altri piani di compagnie aeree e se ha ancora il servizio.

Naturalmente, puoi trovare molti più attributi di questo. L'ultimo attributo è la variabile di risultato; questo è ciò che il software userà per classificare i clienti in uno dei due gruppi, forse chiamati "stayers" e "flight risk".

Il set di dati è suddiviso in dati di allenamento e un set di dati di test. I dati di allenamento consistono in osservazioni (denominate attributi) e una variabile di risultato (binaria nel caso di un modello di classificazione) - in questo caso, i soccorritori oi rischi di volo.

L'algoritmo viene eseguito sui dati di allenamento e viene fornito con un albero che può essere letto come una serie di regole. Ad esempio, se i clienti sono stati con la società per più di dieci anni e hanno più di 55 anni, è probabile che rimarranno come clienti fedeli.

Queste regole vengono quindi eseguite sul set di dati di test per determinare quanto è buono questo modello su "nuovi dati. "Sono fornite misure di precisione per il modello. Ad esempio, una tecnica popolare è la matrice di confusione. Questa matrice è una tabella che fornisce informazioni su quanti casi sono stati correttamente rispetto a quelli classificati in modo errato.

Se il modello sembra buono, può essere distribuito su altri dati, come è disponibile (ovvero, utilizzandolo per prevedere nuovi casi di rischio di volo). Sulla base del modello, la società potrebbe decidere, ad esempio, di inviare offerte speciali a quei clienti che ritiene siano rischi di volo.