Towards partially objective priors for multiple regression models

Abstract

I Bayesiansk lineær regresjon gir tradisjonelle priors på parameterene bare rime- lige posteriorifordelinger hvis det er flere observasjoner enn kovariater. På grunn av at regresjonskoeffisientene ikke krympes, kan disse priorene også føre til over- tilpasning. I denne avhandlingen foreslår jeg en prior som unngår noen av disse manglene, og jeg undersøker andre ønskelige egenskaper ved den foreslåtte pri- oren. Et alternativt konsistenskriterium foreslås for å vurdere om en prior er delvis objektiv, men den foreslåtte prioren tilfredsstiller ikke dette kravet. Inferens for tilfellet med like mange observasjoner og regresjonskoeffisienter er mulig i noen tilfeller. Egenskapene til den påfølgende prediktive fordelingen blir deretter un- dersøkt og sammenlignet med en ofte brukt prior. Til slutt diskuteres mulig videre arbeid.

In Bayesian Linear Regression, traditional objective priors on the parameters only gives proper posteriors if there are more observations than covariates. Due to no shrinkage of regression coefficients, they may also lead to overfitting. In this thesis I propose a prior overcoming some of these shortcomings and investigate other properties of the proposed prior. An alternative criteria for partial objectivity is proposed, but the given prior does not satisfy this criterion. Inference for the case of having an equal number of observations and regression coefficients is possible in some cases. The properties of the subsequent predictive distribution are then investigated and compared to an often-used prior. Finally we acknowledge pos- sibilities for further work.