Lambert matrix factorization

Tutkimustuotos: Artikkeli kirjassa/raportissa/konferenssijulkaisussaKonferenssiartikkeliTieteellinenvertaisarvioitu

Abstrakti

Many data generating processes result in skewed data, which should be modeled by distributions that can capture the skewness. In this work we adopt the flexible family of Lambert W distributions that combine arbitrary standard distribution with specific nonlinear transformation to incorporate skewness. We describe how Lambert W distributions can be used in probabilistic programs by providing stable gradient-based inference, and demonstrate their use in matrix factorization. In particular, we focus in modeling logarithmically transformed count data. We analyze the weighted squared loss used by state-of-the-art word embedding models to learn interpretable representations from word co-occurrences and show that a generative model capturing the essential properties of those models can be built using Lambert W distributions.
Alkuperäiskielienglanti
OtsikkoMachine Learning and Knowledge Discovery in Databases : European Conference, ECML PKDD 2018, Dublin, Ireland, September 10–14, 2018, Proceedings, Part II
ToimittajatMichele Berlingerio, Francesco Bonchi, Thomas Gärtner, Neil Hurley, Georgiana Ifrim
Sivumäärä17
JulkaisupaikkaCham
KustantajaSpringer Nature Switzerland
Julkaisupäivä2019
Sivut311-326
ISBN (painettu)978-3-030-10927-1
ISBN (elektroninen)978-3-030-10928-8
TilaJulkaistu - 2019
OKM-julkaisutyyppiA4 Artikkeli konferenssijulkaisuussa
TapahtumaECML PKDD: Joint European Conference on Machine Learning and Knowledge Discovery in Databases - Dublin, Irlanti
Kesto: 10 syyskuuta 201814 syyskuuta 2018
http://www.ecmlpkdd2018.org/

Julkaisusarja

NimiLecture Notes in Artificial Intelligence
Vuosikerta11052
ISSN (painettu)0302-9743
ISSN (elektroninen)1611-3349

Tieteenalat

  • 113 Tietojenkäsittely- ja informaatiotieteet

Siteeraa tätä

Klami, A., Lagus, J., & Sakaya, J. (2019). Lambert matrix factorization. teoksessa M. Berlingerio, F. Bonchi, T. Gärtner, N. Hurley, & G. Ifrim (Toimittajat), Machine Learning and Knowledge Discovery in Databases: European Conference, ECML PKDD 2018, Dublin, Ireland, September 10–14, 2018, Proceedings, Part II (Sivut 311-326). (Lecture Notes in Artificial Intelligence; Vuosikerta 11052). Cham: Springer Nature Switzerland.