Деление делается вот так (+) («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] Деление делается вот так (+)

(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено SM 15 января 2006 г. 20:43
В ответ на: Ничего не понимаю! отправлено st256 15 января 2006 г. 20:31

y = a/b; => y = sign(a)*sign(b)*(abs(a)/abs(b));

Итого 96024/65536 это 14 (усечение используется, а не округление). Умножить на -1 (произведение сигнов) это -14.

А если хотите -15 получить, используйте y = y >> 16; при signed y.

Составить ответ ||| Конференция ||| Архив

Ответы

Я дико извиняюсь(:-) — GM (16.01.2006 15:32 84.252.243.82, 130 байт)
- Да, только усечение в другую сторону для отрицательных операндов получается. Это, кстати, нередкая хрень, приводящая к несходунчикам :) в тест-векторах ITU-шных алгоритмов. — SM (16.01.2006 17:43 81.94.147.99, пустое)
  - А можно на си сделать округление таким образом y = (y+32768) >> 16? Или это работает не всегда? — GM (16.01.2006 19:19 84.252.243.82, пустое)
    - А лучше пользоваться ITU-шными ф-циями. Из хидера gsm.h CCS. — SM (17.01.2006 00:17 213.141.159.26, пустое)
    - Можно — SM (16.01.2006 19:26 81.94.147.99, пустое)
- Вариант, предложенный SM и усечение работают по разному для разных знаков операнда. — st256 (16.01.2006 17:28 81.1.217.72, пустое)
Да, наверное Вы правы. — st256 (15.01.2006 21:30 81.1.217.73, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание

E-mail: info@telesys.ru