Отправлено Vallav 25 сентября 2001 г. 10:57 В ответ на: [ADSP2101] Есть ли у кого реализация функции SQRT для целого числа двойной точности(для two_word не прокатило((() отправлено Hook 24 сентября 2001 г. 13:16

Заинтересовало как на ADSP-21xx считают sqrt 32 битовое. Залез по
ссылке и прослезился. Входной формат 32 бита 16.16 (u).
Но: в вычислении используется всего 15 значащих бит а в результате
получается 14. Правда этого для выходного формата 8.8 (u) почти
хватает. Похоже ошибка с обработкой входных чисел меньше 1.
А как считается sqrt из показателя ( число приводится к формату
1.15 (u) * 2^n ) это вообще песня. Все это исключительно по коду
из mathfun.dsp, в натуре не проверял, может где и ошибся.