SLIPMAP: Fast and Robust Manifold Visualisation for Explainable AI

Tutkimustuotos: Artikkeli kirjassa/raportissa/konferenssijulkaisussaKonferenssiartikkeliTieteellinenvertaisarvioitu

Abstrakti

We propose a new supervised manifold visualisation method, slipmap, that finds local explanations for complex black-box supervised learning methods and creates a two-dimensional embedding of the data items such that data items with similar local explanations are embedded nearby. This work extends and improves our earlier algorithm and addresses its shortcomings: poor scalability, inability to make predictions, and a tendency to find patterns in noise. We present our visualisation problem and provide an efficient GPU-optimised library to solve it. We experimentally verify that slipmap is fast and robust to noise, provides explanations that are on the level or better than the other local explanation methods, and are usable in practice.
Alkuperäiskielienglanti
OtsikkoAdvances in Intelligent Data Analysis XXII
Sivumäärä13
KustantajaSpringer
Julkaisupäivä16 huhtik. 2024
Sivut223–235
ISBN (painettu)978-3-031-58553-1
ISBN (elektroninen)978-3-031-58555-5
DOI - pysyväislinkit
TilaJulkaistu - 16 huhtik. 2024
OKM-julkaisutyyppiA4 Artikkeli konferenssijulkaisuussa
TapahtumaSymposium on Intelligent Data Analysis - Sweden, Stockholm, Ruotsi
Kesto: 24 huhtik. 202426 huhtik. 2024
Konferenssinumero: 22
https://ida2024.org

Julkaisusarja

NimiLecture Notes in Computer Science
KustantajaSpringer
Vuosikerta14642
ISSN (painettu)0302-9743
ISSN (elektroninen)1611-3349

Lisätietoja

Recipient of the best paper award.

Tieteenalat

  • 113 Tietojenkäsittely- ja informaatiotieteet

Siteeraa tätä