New methods for numerical evaluation of ultra-high degree and order associated Legendre functions

Abstract

Zlepšujeme přesnost a rychlost výpočtu plně normalizovaných přidružených Legendreových funkcí (fnALF) pro ultra vysoké stupně a řády používaných ve sférických harmonických transformacích. S využitím jejich numerického chování byly navrženy dvě nové metody řešení problému podtečení/přetečení při jejich výpočtu. Aplikace těchto dvou metod je testována pomocí rekurze s rostoucím stupněm a pevným řádem. První metoda používá postupné fnALF a druhá metoda, označena jako Midway, zahajuje iteraci z malých počátečních hodnot, které jsou stále v rozsahu prostředí IEEE s dvojitou přesností. Problém podtečení/přetečení v metodě postupného poměru je řešen pomocí metody založené na logaritmu a aritmetiky rozšířeného rozsahu. Obě metody ověřujeme pomocí numerických testů a porovnáváme jejich výsledky s metodou X-čísla z hlediska přesnosti, stability a rychlosti. Výsledky ukazují, že relativní přesnost navrhovaných metod je lepší než 10-9 pro maximální stupeň 100000 ve srovnání s výsledky odvozenými vysoce přesným softwarem Wolfram's Mathematica. Průměrné časy CPU potřebné pro vyhodnocení fnALF v různých zeměpisných šířkách ukazují, že dvě navrhované metody jsou rychlejší asi o 10-30 % a 20-90 % s ohledem na metodu X-čísla pro maximální stupeň v rozsahu 50-65000.