Annealed Importance Sampling for Structure Learning in Bayesian Networks

Teppo Mikael Niinimäki, Mikko Koivisto

Tutkimustuotos: Artikkeli kirjassa/raportissa/konferenssijulkaisussaKonferenssiartikkeliTieteellinenvertaisarvioitu

Abstrakti

We present a new sampling approach to Bayesian learning of the Bayesian network structure. Like some earlier sampling methods, we sample linear orders on nodes rather than directed acyclic graphs (DAGs). The key difference is that we replace the usual Markov chain Monte Carlo (MCMC) method by the method of annealed importance sampling (AIS). We show that AIS is not only competitive to MCMC in exploring the posterior, but also superior to MCMC in two ways: it enables easy and efficient parallelization, due to the independence of the samples, and lower-bounding of the marginal likelihood of the model with good probabilistic guarantees. We also provide a principled way to correct the bias due to order-based sampling, by implementing a fast algorithm for counting the linear extensions of a given partial order.
Alkuperäiskielienglanti
OtsikkoProceedings of the Twenty-Third International Joint Conference on Artificial Intelligence
ToimittajatFrancesca Rossi
Sivumäärä7
KustantajaAAAI Press
Julkaisupäivä2013
Sivut1579-1585
ISBN (painettu)978-1-57735-633-2
TilaJulkaistu - 2013
OKM-julkaisutyyppiA4 Artikkeli konferenssijulkaisuussa
TapahtumaInternational Conference on Artificial Intelligence - Beijing, Kiina
Kesto: 3 elokuuta 20139 elokuuta 2013
Konferenssinumero: 23

Lisätietoja


Volume:
Proceeding volume:

Tieteenalat

  • 113 Tietojenkäsittely- ja informaatiotieteet

Siteeraa tätä