Отправлено AntZ 19 августа 2005 г. 14:26 В ответ на: Может кто поделится литературой по математике с плавающей точкой отправлено <font color=gray>New</font> 19 августа 2005 г. 12:35

Да какая там литература, все примитивно.

1 Определяете динамический диапазон входных/выходных данных
2 Исходя из 1 определяете битность вычислений
3 Определяете форматы входных, промежуточных и выходных данных

Пример - надо представить числа от -100 до 100 c точностью 16 бит. Выбираем формат Q7.8 - число будет представлено в виде
SIII IIII RRRR RRRR
где
S - знак,
I - биты представляющие целую часть
R - биты предстввляющие дробную часть

Теперь осталось только вывести формулу перевода Q7.8 в int16 и обратно. Например число 12.34 может быть представлено в виде дроби
3159/256 (2^8), следовательно искомое 12.34 в Q7.8 будет 3159. Обратное преобразование столь-же тривиально.

Наиболее часто используемый в DSP формат Q15, предназначенный для представления чисел -1.0....1.0-delta. Дробное число переводится в Q15 путем умножения на 32768 и округления, обратно - путем деления на 32768.

• Ответ: — New   (19.08.2005 16:50 82.207.89.211, 476 байт)
  • Ответ: — AntZ   (21.08.2005 19:47 212.46.246.24, 614 байт)
    • Да черт побери никакой разницы и плевать на все это! :) — проникшийся    (22.08.2005 10:01 83.102.139.180, пустое)