Evaluating Attribution Methods for Explainable NLP with Transformers

Abstract

Tento článek popisuje evaluaci několika atribučních metod na dvou úlohách NLP: Analýza sentimentu a klasifikace dokumentů s více značkami. Našim cílem je najít nejlepší metodu, kterou lze s Transformers použít k interpretaci rozhodnutí natrénovaného modelu. Vytvořili jsme dvě nové datové sady. První je odvozena ze Stanford Sentiment Treebank, kde je sentiment jednotlivých slov anotován spolu s sentimentem celé věty. Druhý datový soubor pochází z Czech Text Document Corpus, kam jsme přidali informace o klíčových slovech přiřazených ke každé kategorii. Klíčová slova byla ručně přiřazena ke každému dokumentu a automaticky přiřazena ke kategoriím prostřednictvím PMI. Každou atribuční metodu hodnotíme na několika modelech různých velikostí. Výsledky hodnocení jsou konzistentní napříč všemi modely a oběma datovými soubory. To znamená, že oba soubory dat s navrženými vyhodnocovacími metrikami jsou vhodné pro evaluaci vysvětlitelnosti modelů. Ukazujeme, jak se atribuční metody chovají s ohledem na velikost modelu a úlohu. Zvažujeme také praktické aplikace -- ukazujeme, že i když některé metody fungují velice dobře, lze je nahradit o něco hůře fungujícími metodami, které ale potřebují výrazně méně času.