In statistica e in ricerca scientifica, un concetto fondamentale è quello di livello di significatività.

Prima di iniziare a parlarne però devo introdurre un paio di nozioni. 

ERRORE DI TIPO 1

La prima è quella di errore di tipo I, cioè rifiutare l’ipotesi nulla quando questa è effettivamente vera. Viene indicato con il simbolo 𝛼 ed è comunemente espresso come una percentuale. In pratica, stabilisce una soglia che definisce quanto siamo disposti a rischiare di trarre conclusioni errate da un’analisi statistica.

IPOTESI NULLA

Per capire meglio, l’ipotesi nulla è la dichiarazione che non c’è differenza significativa tra i gruppi che stiamo confrontando o che un certo effetto non esiste. Quando conduciamo un test statistico, l’obiettivo è raccogliere prove sufficienti per poter eventualmente rifiutare l’ipotesi nulla in favore di un’ipotesi alternativa, che invece sostiene che c’è una differenza o un effetto significativo.

Il livello di significatività entra in gioco proprio in questo processo decisionale. Quando otteniamo un valore p (che è il risultato numerico del test statistico), lo confrontiamo con il livello di significatività prefissato. Se il valore p è inferiore al livello di significatività scelto, rifiutiamo l’ipotesi nulla e concludiamo che c’è una differenza significativa o che l’effetto osservato è reale. Al contrario, se il valore p è maggiore del livello di significatività, non abbiamo abbastanza prove per rigettare l’ipotesi nulla, quindi non possiamo affermare che vi sia un effetto significativo.

Un livello di significatività comunemente utilizzato è 𝛼 = 0,05, che equivale a un 5% di rischio di commettere un errore di tipo I, ovvero rifiutare l’ipotesi nulla quando in realtà essa è vera. In altre parole, c’è una probabilità del 5% che le conclusioni siano dovute al caso, e non a un vero effetto o differenza. Questo valore è considerato un compromesso accettabile tra il rischio di errore e la possibilità di rilevare effetti significativi. Tuttavia, esistono casi in cui si preferisce un livello di significatività più basso, come 𝛼 = 0,01, che riduce il rischio di errore al 1%, ma richiede prove più forti per rifiutare l’ipotesi nulla.

Come scegliere il livello di significatività?

A volte il margine d’errore accettato cambia a seconda del contesto, e della gravità della decisione da prendere. Salireste mai su un ponte autostradale che ha il 10% di probabilità di crollare? 

Non credo!

In molti campi della ricerca scientifica, come la biologia o la medicina, dove le conclusioni errate possono avere conseguenze gravi, si tende a utilizzare un livello di significatività più basso. 

Ad esempio, in uno studio clinico su un nuovo farmaco, gli scienziati potrebbero scegliere α=0,01 per ridurre al minimo il rischio di concludere erroneamente che il farmaco è efficace quando in realtà non lo è. 

Al contrario, in altri campi come la psicologia o le scienze sociali, dove gli impatti di una conclusione errata sono meno critici, il livello di significatività di α=0,05 è generalmente considerato accettabile.

È importante ricordare che il livello di significatività non dice nulla sulla probabilità che l’ipotesi nulla sia vera o falsa, ma rappresenta soltanto il rischio di trarre una conclusione errata. 

Un’interpretazione comune errata è pensare che un valore inferiore a 0,05 significhi che l’ipotesi nulla è “falsa” o che l’ipotesi alternativa sia “vera”.

In realtà il livello di significatività riflette solo la probabilità che i risultati siano stati ottenuti per caso.

Bene, questo mese l’ho ufficialmente dedicato alla finanza.

Mi scuso con quelli di voi che non masticano molto l’argomento, e magari sarebbero stati benone anche senza masticarlo.

Tuttavia ne sono convinto: la finanza è per il patrimonio personale un puntello, un inevitabile moltiplicatore. Così come la statistica lo è per la politica e in generale per la conoscenza del mondo!

Quindi, non me ne vogliate, ma oggi finisco di parlare del concetto di multicollinearità.

Che cos’è la multicollinearità

La multicollinearità è una situazione che si verifica nell’analisi di regressione quando due o più variabili indipendenti (predittori) sono altamente correlate tra loro. In altre parole, la multicollinearità si manifesta quando una variabile indipendente può essere predetta in modo lineare da un’altra variabile indipendente con un alto grado di accuratezza. Questo fenomeno può creare problemi nell’interpretazione dei risultati di un modello di regressione.

La multicollinearità può causare diversi problemi nell’analisi di regressione.

Ad esempio, quando c’è multicollinearità i coefficienti stimati della regressione possono diventare molto sensibili a piccoli cambiamenti nei dati. Ciò significa che aggiungendo o rimuovendo un’osservazione dal dataset, i coefficienti potrebbero cambiare in modo significativo, rendendo il modello instabile e poco affidabile.

In presenza di multicollinearità diventa difficile interpretare i coefficienti di regressione perché non è chiaro quale variabile indipendente stia effettivamente influenzando la variabile dipendente. Ad esempio, se stiamo cercando di capire l’effetto dell’età e dei chilometri percorsi sul valore di un’auto, e queste due variabili sono altamente correlate (perché un’auto più vecchia ha probabilmente percorso più chilometri), diventa difficile isolare l’effetto di ciascuna variabile.

Aumento della varianza dei coefficienti

La multicollinearità aumenta la varianza delle stime dei coefficienti di regressione, rendendo più difficile la determinazione dell’effettiva significatività dei predittori. Ciò può portare a risultati in cui le variabili appaiono non significative quando, in realtà, potrebbero avere un effetto significativo.

È stato troppo tecnico?
Spero vivamente di no!

Vorrei ricollegarmi, approfittando di questa pausa agostana, a quando ho abbozzato la scorsa settimana sulla regressione lineare.

Ora che ho cercato di dare una piccola definizione, è il momento di fare qualche esempio pratico d’utilizzo. 

Previsione delle vendite in base alla spesa per lo stipendio dei venditori

Immaginiamo un’azienda che vuole capire come la spesa per il comparto vendite influisce sulle vendite mensili. In questo caso, la variabile dipendente (Y) è rappresentata dalle vendite, mentre la variabile indipendente (X) è la spesa. Se esiste una relazione lineare tra la spesa in comparto vendite e le vendite (ad esempio, ogni 1.000 euro spesi si traducono in un aumento di 10.000 euro nelle vendite), la regressione lineare può essere uno strumento molto utile per fare previsioni future e ottimizzare il budget per questo reparto.

Analisi della relazione tra l’età e il reddito

Un ricercatore potrebbe essere interessato a studiare la relazione tra l’età delle persone e il loro reddito annuale. Utilizzando un dataset che raccoglie informazioni sull’età e sul reddito di un campione di individui, si può utilizzare la regressione lineare per vedere se c’è una tendenza lineare (ad esempio, il reddito aumenta con l’aumentare dell’età fino a un certo punto, per poi stabilizzarsi o diminuire).

Stima della pressione sanguigna in base all’età e al peso

Un medico può utilizzare la regressione lineare per stimare la pressione sanguigna in base all’età e al peso del paziente. In questo caso, la pressione sanguigna è la variabile dipendente, mentre l’età e il peso sono variabili indipendenti. Se c’è una relazione lineare tra queste variabili, la regressione lineare multivariata (che considera più di una variabile indipendente) può essere utilizzata per costruire un modello predittivo.

Esempi di inefficacia della regressione lineare

Supponiamo di voler prevedere il prezzo di una casa in base alla sua dimensione. In molti mercati immobiliari, esiste una relazione non lineare tra il prezzo di una casa e la sua dimensione (ad esempio, il prezzo potrebbe aumentare rapidamente con l’aumentare della dimensione fino a un certo punto, per poi aumentare più lentamente o addirittura stabilizzarsi). In questo caso, la regressione lineare semplice non sarebbe adatta perché non cattura adeguatamente la natura non lineare della relazione. Potrebbero essere più appropriati modelli di regressione polinomiale o altri metodi di machine learning.

Oppure, immaginiamo di voler utilizzare la regressione lineare per prevedere il numero di ore di studio necessarie per ottenere un certo punteggio su un test. Se nel dataset ci sono alcuni studenti che hanno studiato un numero eccezionalmente elevato di ore ma hanno ottenuto punteggi bassi (o viceversa), questi outlier potrebbero influenzare significativamente la linea di regressione, rendendo il modello meno accurato. In tali casi, la regressione lineare potrebbe non essere la scelta migliore a meno che non si trattino adeguatamente gli outlier o si utilizzi una variante robusta della regressione.

Oppure, la regressione lineare non funziona in scenari in cui le relazioni tra variabili sono molto complesse. 

Ad esempio, in un modello che cerca di prevedere la felicità di una persona in base a fattori come reddito, stato civile, salute, ecc., le interazioni tra queste variabili possono essere complesse e non lineari. In questi casi entrano in campo dei modelli più sofisticati come le reti neurali, le macchine a supporto vettoriale (SVM) o i modelli ad albero decisionale.

La presenza di multicollinearità

Parlerò in un prossimo post di multicollinearità, qui mi limito a dire che il fenomeno si verifica quando le variabili indipendenti risultano correlate tra loro. 

Ad esempio, se stiamo cercando di prevedere il prezzo di un’auto in base all’età dell’auto e al numero di chilometri percorsi, queste due variabili indipendenti potrebbero essere fortemente correlate (più un’auto è vecchia, più chilometri ha percorso). La presenza di multicollinearità può causare problemi nella stima dei coefficienti di regressione e rendere il modello instabile. In questi casi, tecniche come la regressione ridge o l’eliminazione di una delle variabili correlate possono essere necessarie.

Per chi si sta avvicinando al mondo complesso dell’analisi finanziaria, è il momento di mettere un punto: vediamo insieme cosa intendiamo quando parliamo di regressione lineare e perché è importantissimo conoscere e saper applicare questo concetto.

Cosa significa analisi di regressione lineare

L’analisi di regressione lineare è una tecnica statistica utilizzata per modellare e analizzare la relazione tra una variabile dipendente e una o più variabili indipendenti. Questa tecnica è ampiamente utilizzata in vari campi, tra cui economia, scienze sociali, biologia, ingegneria e molti altri, per comprendere e prevedere i comportamenti dei dati.

La regressione lineare si basa sull’idea che esiste una relazione lineare tra le variabili. In altre parole, si assume che il cambiamento in una variabile dipendente (anche chiamata variabile risposta o variabile target) possa essere spiegato da cambiamenti in una o più variabili indipendenti (anche chiamate variabili predittore). La forma più semplice di regressione lineare è quella lineare semplice, che coinvolge solo due variabili: una dipendente e una indipendente. L’obiettivo principale dell’analisi di regressione lineare è identificare la migliore linea retta (o iperpiano, nel caso di più variabili indipendenti) che minimizza la somma dei quadrati delle differenze tra i valori osservati e i valori predetti dalla linea. Questa tecnica è nota come il metodo dei minimi quadrati ordinari (OLS – Ordinary Least Squares). Il risultato finale è un modello che può essere utilizzato per prevedere i valori futuri di Y sulla base di nuovi valori di X.

Gli statisti spesso esaminano anche i valori p dei coefficienti di regressione per determinare se le relazioni osservate tra le variabili sono statisticamente significative. Un valore p inferiore a un livello di significatività (spesso 0,05) indica che esiste una bassa probabilità che la relazione osservata sia dovuta al caso.

I limiti della regressione lineare

Sebbene la regressione lineare sia una tecnica potente, ha anche i suoi limiti. Una delle principali assunzioni della regressione lineare è che esista una relazione lineare tra le variabili. Se la relazione è non lineare, il modello di regressione lineare potrebbe non essere adeguato. Inoltre, la regressione lineare può essere influenzata da valori anomali (outlier) e multicollinearità (quando le variabili indipendenti sono altamente correlate tra loro).

Lo spiegherò meglio in un articolo successivo.

Buongiorno!
Ho sentito di recente una persona usare nello stesso discorso i termini “normalizzazione” e “standardizzazione” in modo intercambiabile. Questa persona non lavora con l’analisi dati, quindi l’ho reputato uno scivolone comprensibile.

Però la differenza è in realtà molto semplice, e utilissima per chi vuole fare un minimo di analisi finanziaria. Quindi ho provato a spiegarla in termini semplici.

Spero sia utile!

Differenza tra normalizzazione e standardizzazione

Immaginiamo di avere un insieme di dati. La normalizzazione ridimensiona i dati in un intervallo fisso, solitamente tra 0 e 1. Ad esempio, abbiamo un gruppo di numeri che rappresentano i punteggi di diverse persone in una gara. 

Normalizzare significa prendere tutti questi punteggi e ridurli in un range da 0 a 1, mantenendo le proporzioni originali. Il punteggio più basso diventerà 0 e quello più alto diventerà 1, mentre tutti gli altri punteggi saranno ridimensionati proporzionalmente tra questi due estremi.

Il grafico della normalizzazione mostra che i dati originali (che potevano essere qualsiasi numero) sono stati compressi in un intervallo da 0 a 1. La forma della distribuzione dei dati rimane la stessa, ma i valori sono ora limitati in questo nuovo intervallo.

Standardizzazione

La standardizzazione, invece, cambia i dati per far sì che abbiano una media di 0 e una deviazione standard di 1. Immagina di prendere tutti i punteggi della gara e trasformarli in “quanto si discostano dalla media”. Se qualcuno ha un punteggio molto vicino alla media, il suo valore standardizzato sarà vicino a 0. Se ha un punteggio molto sopra la media, sarà positivo (maggiore di 0); se molto sotto la media, sarà negativo (minore di 0).

Un tipico grafico della standardizzazione mostra che i dati sono stati trasformati per avere una distribuzione centrata attorno a zero, con la maggior parte dei dati all’interno di un intervallo di -1 a 1, il che indica che la maggior parte dei punteggi non è troppo lontana dalla media.

In parole povere…

La normalizzazione riduce i dati a una scala tra 0 e 1, mantenendo le proporzioni originali tra i valori. Invece la standardizzazione trasforma i dati per avere una media di 0 e misurare quanto ogni dato è lontano dalla media in termini di deviazione standard.

Per l’analisi finanziaria cosa serve?

La risposta è: dipende! 

Come in molti altri contesti, anche qui va fatta un’analisi ad hoc in base alla tipologia di dati e alle risposte che da essi si vogliono ottenere.