Modelli probabilistici di fenomeni aleatori
La teoria della probabilità si occupa dello studio dei fenomeni aleatori. Quando non siamo in grado di dare una caratterizzazione esatta del fenomeno e dobbiamo dare una descrizione globale del fenomeno stesso, usiamo la probabilità.
Probabilità e statistica
modificaEsperimenti aleatori
modificaSono aleatori tutti gli esperimenti per i quali è difficile o impossibile prevedere in modo esatto il risultato, ma presentano una qualche forma di regolarità. Il comportamento dei fenomeni aleatori può essere descritto solo attraverso grandezze globali e/o medie.
Non ci interessa solo il caso in cui sia impossibile, ma anche sia molto difficile, così tanto da rendere la descrizione irrealizzabile.
Pensando alla definizione di probabilità, i valori medi possono essere i momenti e le regolarità del primo o second'ordine. Tanto per dare un esempio, è difficile predire esattamente il risultato di ogni lancio del dado, ma se il dado non è truccato posso dire che ogni faccia ha la stessa probabilità di uscire. Posso prevedere il valor medio del risultato e la statistica collegata.
Teoria della probabilità e statistica
modificaLa teoria della probabilità si occupa della costruzione di modelli probabilistici (matematici) che descrivano i fenomeni aleatori. La statistica, invece, si occupa di verificare l'aderenza di un modello rispetto ai dati sperimentali.
Nella parte di teoria della probabilità possiamo dire qual è la funzione di densità di probabilità del dado. La statistica si preoccupa di dire se, dato un dado, questo aderisce al modello della teoria della probabilità o se questo è truccato. Gli ambiti in cui viene utilizzata la teoria della probabilità sono molti, per esempio:
- teoria delle code;
- instradamento ottimo dei pacchetti;
- analisi fatta a livello statistico;
- meccanica statistica relativa ai gas (posso descrivere la pressione, che è un valore medio, e non la posizione di ogni molecola);
- elaborazione e trasmissione dell'informazione.
Teoria dell'informazione
modificaLa teoria dell'informazione studia i problemi legati all'elaborazione e alla trasmissione dell'informazione utilizzando un approccio probabilistico.
- oggi il treno per Milano delle 17.25 sarà in ritardo di 10 minuti
- oggi il treno per Milano delle 17.25 sarà puntuale
L'informazione si misura con la definizione[1]
Dall'informazione si passa alla definizione di entropia:
L'entropia non è altro che l'informazione media di una sorgente.
Di solito si hanno delle stringhe di bit 1101110011. Un'operazione importante è la codifica della sorgente; quello che si vuole fare è trovare un codice per rappresentare questa stringa, con o senza perdita, con un numero minore di bit. Con la probabilità data non è possibile comprimere la stringa, perché i simboli sono equiprobabili. Se i simboli sono indipendenti, il fatto che sia uscito un 1 o uno 0 non influenza il risultato del prossimo simbolo.
Al contrario, se i bit non sono equiprobabili, posso rappresentare con meno bit i simboli della sorgente, posso comprimere.
La costruzione di modelli semplificati può cambiare nettamente le prestazioni di un canale o di un sistema di telecomunicazioni.
Statistica
modifica
Dato uno spazio campione , si definisce spazio degli eventi F l'insieme non vuoto che contiene tutti gli elementi di interesse (determinabili su ) che soddisfano le seguenti proprietà:
- (dai teoremi di De Morgan)
Un spazio F è una -algebra se vale anche:
Ci saranno, in generale, più di uno spazio F degli eventi. Il più banale deve contenere l'unione ed il complemento degli eventi.
Insieme delle parti
modifica
Classe di insiemi
modifica
Definizioni di probabilità
modificaProbabilità secondo la frequenza relativa
modificaUna delle possibili definizioni di probabilità è quella che usa la frequenza relativa. Si dice che la probabilità di un evento A è data da
dove n è il numero di volte che si ripete l'esperimento, mentre è il numero di volte che si verifica l'evento A.
Probabilità secondo il modello probabilistico
modificaUn modello probabilistico di un fenomeno aleatorio è lo spazio di probabilità identificato da tre elementi , dove:
- è lo spazio degli esiti;
- F è lo spazio degli eventi;
- P è la probabilità.
- se è una successione di eventi mutuamente esclusivi, cioè
Quest'ultima proprietà è detta additività numerabile, perché indica che gli elementi hanno intersezione nulla e la somma delle loro probabilità si può portare fuori dal segno di probabilità.
Note
modifica- ↑ Durante tutta la trattazione si usa la base 2. Questo perché qualsiasi insieme finito o infinito proprio può essere messo in relazione con l'insieme dei numeri naturali, e questi possono essere indicizzati con l'utilizzo dei soli simboli . Inoltre, lo scopo del corso è permettere l'utilizzo di tecnologie di tipo digitale, che si basano proprio sulla base 2.