Anti-models: an alternative way to discriminative training

Abstract

Tradiční metody diskriminativního trénování modifikují parametry skrytých markovových modelů (HMM), které jsou zpravidla odhadnuty na základě kritéria maximální věrohodnosti (ML). V tomto článku jsou namísto toho využity antimodely. Antimodely jsou použity v kombinaci s ML modely tak, aby výstupní pravděpodobnosti HMM byly modifikovány vzhedem k diskriminativní informaci obsažené v trénovacích datech. Tradiční metody diskriminativního trénování jsou náchylné k přetrénování a vyžadují speciální techniky pro stabilní výpočet. Také konvergence není zaručena a zpravidla jen "vhodný" počet iterací je použit. V prezentovaném konceptu antimodelů má model dvě části: pozitivní model a antimodel. Obě čísti jsou trénovány na základě ML kritéria a proto konvergence a stabilita výpočtu je zaručena.