Что-то я Вас не понимаю (+)
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

миниатюрный аудио-видеорекордер mAVR

Отправлено SM 17 июня 2005 г. 16:54
В ответ на: Переполнения бывают при умножении целых чисел. Для дробных чисел отправлено Bill 17 июня 2005 г. 15:00

переполнение при умножении (допустим 16х16) возникает только когда -32768*-32768 происходит. А это в разных форматах может значить от -32768 до -0.0000хзсколько, смотря где "фиксированная точка" зафиксирована. И зачем обязательно к 0<=|x|<1 приводить? Вот возьму формат Q.13, и буду иметь 0<=|x|<=4. Куда хочу туда точку фиксирую.

Составить ответ  |||  Конференция  |||  Архив

Ответы



Перейти к списку ответов  |||  Конференция  |||  Архив  |||  Главная страница  |||  Содержание  |||  Без кадра

E-mail: info@telesys.ru