Отправлено AntZ 21 августа 2005 г. 19:47 В ответ на: Ответ: отправлено <font color=gray>New</font> 19 августа 2005 г. 16:50

Имея операцию Z=X*Y бесполезно спрашивать в каком формате X, Y и Z. Все три могут быть в разных форматах.

Вопрос в каком формате число 0x1234? Да в любом, какая к черту разница. Все что надо понять, это то что все форматы приводятся к целым путем умножения на скаляр. Умножение на скаляр - линейная опрерация, FFT - тоже линейная операция, поэтому никто не мешает перед FFT умножить массив на 1000 или 0.001 и после FFT умножить на обратное число.

1) Формат выбирается как компромис между точностью и отсутствием переполнений.
2) Процессору плевать на формат в котором число, формат в голове у программиста

• Да черт побери никакой разницы и плевать на все это! :) — проникшийся    (22.08.2005 10:01 83.102.139.180, пустое)