Motivazioni alla statistica Bayesiana, inferenza parametrica, inferenza predittiva. Probabilità, processi di osservazione scambiabilità. Modelli parametrici univariati, Approssimazioni Monte Carlo. Il modello Gaussiano. Approssimazione di distribuzioni a posteriori via Gibbs Sampler. Il modello normale multivariato. Modellazione gerarchica. Regressione lineare. Prior non coniugati. Modelli lineari generalizzati . Metodi per dati ordinali. Reti Bayesiane: learning parametrico e strutturale.
Peter D. Hoff A First Course in Bayesian Statistical Methods, 2009 Springer
Obiettivi Formativi
CONOSCENZE: Approfondita conoscenza delle problematiche connesse alla inferenza Bayesiana prevedendo l'introduzione di modelli perametrici con parametri trattati come variabili aleatorie.
COMPETENZE: Gli studenti saranno messi in grado di affrontare argomenti più complessi quali l'imputazione di osservazioni missing, la selezione di modelli e la derivazione di distribuzioni condizionate complesse
Capacità acquisite al termine del corso: Autonomia nel gestire il processo inferenziale relativo a variabili univariate e multivariate con struttura di relazione semplice e gerarchica
Prerequisiti
INSEGNAMENTO PROPEDEUTICO:
INFERENZA STATISTICA
Metodi Didattici
Lezioni di didattica frontale e esercitazioni
Altre Informazioni
E' richiesta una conoscenza di base del software R
Modalità di verifica apprendimento
Prove intermedie scritte e esame finale orale.
Programma del corso
Regola della probabilità totale e regola di Bayes
,Inferenza Bayesiana: Notazione formale.Differenze fra impostazione frequentista e Bayesiana
. Processi di osservazione:Generalit`
Ipotesi di dipendenza fra i n.a. del processo: Processi di
alternativa semplice
. Processi gaussiani
. Processi Mistura
. Processi scambiabili di alternativa semplice
.Processi scambiabili non proseguibili indefinitamente
. Processo bernoulliano limitato
. Processi di alternativa scambiabili illimitati
.Processo di Bernoulli
. Processo di Bayes-Laplace
.Processo di Polya
.Modelli univariati parametrici. Il modello binomiale
. Regioni HPD
. Distribuzioni predittive
.Distribuzioni a priori coniugate
. Famiglia esponenziale regolare e ”a priori” coniugate
. Individuazione di F tramite il teorema di fattorizzazione
. Modelli: Poisson. Esponenziale. Uniforme.Multinomiale. Normale. A priori soggettive
. A priori non informative o oggettive.
Soluzione di Box-Tiao
A priori non informativi di Jeffreys
Metodo Monte Carlo
. Convergenza delle stime
. Model checking tramite confronto fra osservazioni e
simulazioni dalla Y rep |y
. Comparazione fra P-value frequentista e Bayesiano
. Metodi indiretti di campionamento
. Algoritmo AR (Acceptance Rejection)
. Importance Sampling
. Modello Normale multivariato
. La distribuzione Inverse-Wishart
. Simulazione di una matrice aleatoria
Distribuzione t multivariata
. Distribuzione normale multivariata, prior coniugate
. Distribuzione normale multivariata, marrginali a posteriori e predittiva
. Distribuzione normale multivariata, A priori non informative
. Distribuzione normale multivariata, A priori semiconiugate
. Distribuzione normale multivariata condizionata
.Comparazione fra gruppi e il Modello Gerarchico
.Modello gerarchico normale
. Modello classico: Anova
.Modelli Random Effect
Modelli Gerarchici Bayesiani
.Modello di regressione lineare
. Formulazione matriciale del modello lineare e stime OLS
.Formulazione Bayesiana del modello lineare: prior
informative
. Soluzione Gibbs del modello lineare
. Formulazione Bayesiana del modello lineare: prior non
informative
. G-prior
. Selezione di variabili: metodo backward
. Selezione di modelli: Bayes Factor
.Gibbs sampling e Model averaging
. Modelli lineari generalizzati
. Modelli Gerarchici lineari ovvero modelli lineari a effetti misti
. Modelli lineari generalizzati gerarchici
Reti Bayesiane: definizione, usi, e apprendimento