Weak supervision for Question Type Detection with large language models

Abstract

Velké předtrénované jazykové modely prokázaly pozoruhodné výkony v tzv. Zero-Shot Learning v mnoha úlohách zpracování přirozeného jazyka. Nicméně navrhování účinných vstupů (tzv. prompts) je stále velmi obtížné pro některé úkoly, zejména pro rozpoznávání dialogových aktů. Proto navrhujeme alternativní způsob, jak využít předtrénovaný model pro takové úkoly s využitím jednoduchých pravidel, která jsou intuitivnější a snáze se navrhují. Tento přístup demonstrujeme na úloze automatické detekce otázek a ukazujeme, že náš model dobře funguje v porovnání s modelem LSTM, který je natrénován na trénovací části datasetu MRDA. Dále analyzujeme limity navrhovaného přístupu, které nelze jednoduše aplikovat na zcella libovolnou úlohu, ale může být prospěšný jako doplněk pro přidání specifických tříd.