Sommario:
Video: La sovranità appartiene al popolo o allo spread? Antonio Maria Rinaldi e Scenari Economici a Milano 2024
In questa fase di esplorazione dell'analisi predittiva, acquisirai una conoscenza approfondita dei tuoi dati, che a sua volta ti aiuteranno a scegliere le variabili rilevanti da analizzare. Questa comprensione ti aiuterà anche a valutare i risultati del tuo modello. Ma prima devi identificare e pulire i dati per l'analisi.
Come generare i dati derivati
Gli attributi derivati sono record interamente nuovi costruiti da uno o più attributi esistenti. Un esempio potrebbe essere la creazione di documenti che identificano libri che sono bestseller nelle fiere del libro. I dati grezzi non possono acquisire tali record, ma a fini di modellazione, questi record derivati possono essere importanti. Il rapporto prezzo / guadagno e la media mobile a 200 giorni sono due esempi di dati derivati ampiamente utilizzati nelle applicazioni finanziarie.
Gli attributi derivati possono essere ottenuti da semplici calcoli come dedurre l'età dalla data di nascita. Gli attributi derivati possono anche essere calcolati riassumendo le informazioni da più record.
Ad esempio, la conversione di una tabella di clienti e dei libri acquistati in una tabella può consentire di tenere traccia del numero di libri venduti tramite un sistema di raccomandazione, attraverso il marketing mirato e una fiera del libro e identificare la fascia demografica dei clienti che comprato quei libri.
La generazione di tali attributi aggiuntivi porta ulteriore potenza predittiva all'analisi. In effetti, molti di questi attributi sono creati in modo da sondare il loro potenziale potere predittivo. Alcuni modelli predittivi possono utilizzare più attributi derivati rispetto agli attributi nel loro stato grezzo. Se alcuni attributi derivati si rivelano particolarmente predittivi e il loro potere è dimostrato pertinente, allora ha senso automatizzare il processo che li genera.
I record derivati sono nuovi record che portano nuove informazioni e forniscono nuovi modi di presentare dati grezzi; possono essere di enorme valore per la modellazione predittiva.
Come ridurre la dimensionalità dei dati
I dati utilizzati nei modelli predittivi sono generalmente raggruppati da più fonti. L'analisi può trarre da dati sparsi su più formati di dati, file e database o più tabelle all'interno dello stesso database. Raggruppare i dati insieme e combinarli in un formato integrato per i modellatori di dati da utilizzare è essenziale.
Se i tuoi dati contengono contenuti gerarchici, potrebbe essere necessario appiattito . Alcuni dati hanno alcune caratteristiche gerarchiche come le relazioni genitore-figlio o un record composto da altri record.Ad esempio, un prodotto come un'auto può avere più produttori; appiattendo i dati, in questo caso, significa includere ciascun produttore come caratteristica aggiuntiva del record che stai analizzando.
L'appiattimento dei dati è essenziale quando viene unito da più record correlati per formare un'immagine migliore.
Ad esempio, l'analisi degli eventi avversi per diversi farmaci fatti da diverse aziende potrebbe richiedere che i dati vengano appiattiti a livello di sostanza. In questo modo, si finisce per rimuovere le relazioni uno-a-molti (in questo caso, molti produttori e molte sostanze per un prodotto) che possono causare troppe duplicazioni di dati ripetendo più voci di sostanze che si ripetono informazioni su prodotti e produttori ad ogni voce.
L'appiattimento riduce la dimensionalità dei dati, che è rappresentata dal numero di funzioni di un record o di un'osservazione.
Ad esempio, un cliente può avere le seguenti caratteristiche: nome, età, indirizzo, articoli acquistati. Quando inizi la tua analisi, potresti trovarti a valutare i record con molte funzionalità, solo alcune delle quali sono importanti per l'analisi. Quindi dovresti eliminare tutte le funzionalità tranne quelle che hanno il potere più predittivo per il tuo progetto specifico.
La riduzione della dimensionalità dei dati può essere ottenuta inserendo tutti i dati in un'unica tabella che utilizza più colonne per rappresentare gli attributi di interesse. All'inizio dell'analisi, ovviamente, l'analisi deve valutare un numero elevato di colonne, ma tale numero può essere ridotto man mano che l'analisi procede.
Questo processo può essere aiutato ricostituendo i campi, ad esempio raggruppando i dati in categorie con caratteristiche simili.
Il set di dati risultante - il set di dati pulito - viene solitamente inserito in un database separato per gli analisti da utilizzare. Durante il processo di modellazione, questi dati dovrebbero essere facilmente accessibili, gestiti e aggiornati.
