[an error occurred while processing this directive]
А я начал возражать Вам, потому что Вы возражали неправильным применением fixed point... :-) (+)
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)
Не спорю, что я мог и накосячить - бывает...
Но когда я пробовал реализовывать с програмной реализацией float'а расчеты RMS и прочих exp-усреднителей, то отказался от этого ввиду недостаточной точности и сильно разрастающегося кода... Ну про большой код - это не к Вам, а вот про точность - либо ко мне, либо к Вам... ;-) Но так или иначе - сейчас все работает на fixed нормально с ДД >120 дБ...
Составить ответ
|||
Конференция
|||
Архив
Ответы
- Ну, про точность я готов продолжить. Приведите, если Вам не трудно, пример наихудшего для floating-point вычислений вектора, где бы начались проблемы с точностью, но при этом 32-битный fixed-point подобных проблем бы не имел. — homekvn (31.10.2006 20:29 212.185.161.237, пустое)
- Не в состоянии прочитать всю дискуссию, но сейчас особенно моден формат ieee754. Каковой для флоата обычного оговаривает на все прол все 32-х разряда. С учетом этого сложите во float 2 числа и доложите результат. Первое число=1073741823, второе =1073741822. — -=ВН=- (31.10.2006 20:38 193.125.71.140, пустое)
- Ну-у! Так и я могу. А теперь Вы сложите серию чисел вроде 8.21e+48 или (e-48), которые также соответствуют приведенному Вами стандарту. И потом Вы мне исходные числа приведите, которые надо в квадрат возвести, а потом просуммировать. А потом сами на блекфине сделайте то же самое. — homekvn (31.10.2006 21:08 212.185.161.237, пустое)
- Вы подменили вопрос. 8.21e+48 не входят в ДИАПАЗОН 32-х разрядных чисел целых. Не входят. А приведенные мной числа в ДИАПАЗОН флоата одинарной точности входят. Я ведь не просил Вас складывать в одинарном флоате числа порядка 8.21e+16799. Нехорошо, нехорошо, Вы пытаетесь меня обмануть :-((( — -=ВН=- (31.10.2006 21:18 193.125.71.140, пустое)
- Да признаюсь, перебрал. Докладываю результат 3,9999997 И что? Кстати (+) — homekvn (31.10.2006 21:41 212.185.161.237, 635 байт)
- Да где Вы видели, что кто-то Ваш Шарк принижал? :-) Это ж разные процессоры, заточены под разные вещи... (+) — ASergej_R19 (31.10.2006 22:05 80.250.160.170, 339 байт)
- Вы знаете, я как-то догадывался, что Шарик и с целыми числами умеет, я даже с шариком работал, правда это было давно, шарик старый был, 21065, подох наверное уже. И мне в общем по барабану, кто кого сделает, шарик блэкфина или наоборот. Вы задаете вопрос или приводите пример, я Вам в ответ на это и только на это и демонстрирую всякие ноу и даже хау. — -=ВН=- (31.10.2006 21:48 193.125.71.140, пустое)
- Отлично! :-) (+) — ASergej_R19 (31.10.2006 20:42 80.250.160.170, 289 байт)
Перейти к списку ответов
|||
Конференция
|||
Архив
|||
Главная страница
|||
Содержание