Ну, про точность я готов продолжить. Приведите, если Вам не трудно, пример наихудшего для floating-point вычислений вектора, где бы начались проблемы с точностью, но при этом 32-битный fixed-point подобных проблем бы не имел. («Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

[an error occurred while processing this directive] Ну, про точность я готов продолжить. Приведите, если Вам не трудно, пример наихудшего для floating-point вычислений вектора, где бы начались проблемы с точностью, но при этом 32-битный fixed-point подобных проблем бы не имел.
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

Отправлено homekvn 31 октября 2006 г. 20:29
В ответ на: А я начал возражать Вам, потому что Вы возражали неправильным применением fixed point... :-) (+) отправлено <font color=gray>ASergej_R19</font> 31 октября 2006 г. 20:21

Составить ответ ||| Конференция ||| Архив

Ответы

Не в состоянии прочитать всю дискуссию, но сейчас особенно моден формат ieee754. Каковой для флоата обычного оговаривает на все прол все 32-х разряда. С учетом этого сложите во float 2 числа и доложите результат. Первое число=1073741823, второе =1073741822. — -=ВН=- (31.10.2006 20:38 193.125.71.140, пустое)
- Ну-у! Так и я могу. А теперь Вы сложите серию чисел вроде 8.21e+48 или (e-48), которые также соответствуют приведенному Вами стандарту. И потом Вы мне исходные числа приведите, которые надо в квадрат возвести, а потом просуммировать. А потом сами на блекфине сделайте то же самое. — homekvn (31.10.2006 21:08 212.185.161.237, пустое)
  - Вы подменили вопрос. 8.21e+48 не входят в ДИАПАЗОН 32-х разрядных чисел целых. Не входят. А приведенные мной числа в ДИАПАЗОН флоата одинарной точности входят. Я ведь не просил Вас складывать в одинарном флоате числа порядка 8.21e+16799. Нехорошо, нехорошо, Вы пытаетесь меня обмануть :-((( — -=ВН=- (31.10.2006 21:18 193.125.71.140, пустое)
    - Да признаюсь, перебрал. Докладываю результат 3,9999997 И что? Кстати (+) — homekvn (31.10.2006 21:41 212.185.161.237, 635 байт)
      - Да где Вы видели, что кто-то Ваш Шарк принижал? :-) Это ж разные процессоры, заточены под разные вещи... (+) — ASergej_R19 (31.10.2006 22:05 80.250.160.170, 339 байт)
      - Вы знаете, я как-то догадывался, что Шарик и с целыми числами умеет, я даже с шариком работал, правда это было давно, шарик старый был, 21065, подох наверное уже. И мне в общем по барабану, кто кого сделает, шарик блэкфина или наоборот. Вы задаете вопрос или приводите пример, я Вам в ответ на это и только на это и демонстрирую всякие ноу и даже хау. — -=ВН=-   (31.10.2006 21:48 193.125.71.140, пустое)
        
        Да про целые числа - это я так... на всякий случай (+) — homekvn   (31.10.2006 21:52 212.185.161.237, 310 байт)
        
        А Вы что, считаете, что я все читал в этой ветке, что ли? Чтобы знать, что речь шла о точности RMS? Вы спросили про наихудший вектор - я привел пример. Хотя назвать его — -=ВН=-   (31.10.2006 22:01 193.125.71.140, 133 байт)
        
        Да, по результату, впрочем Вы и сами догадываетесь, что он немного неточен. Увы. — -=ВН=-   (31.10.2006 21:49 193.125.71.140, пустое)
        
        Еще раз замечу, что если мне понадобится сложить два 32битных числа, я это сделаю просто в int. А что касается точности RMS, то пока подходящий пример не был приведен. — homekvn   (31.10.2006 21:54 212.185.161.237, пустое)
        
        Кстати на BF, если надо будет сложить два 32-битных числа я это тоже сделаю просто строчкой R0 = R1 + R2... :-) (-) — ASergej_R19   (31.10.2006 22:09 80.250.160.170, пустое)
        
        Да ради бога, складывайте, но у Вас был вопрос о наихудшем вектрое для флоат. — -=ВН=-   (31.10.2006 22:04 193.125.71.140, пустое)
- Отлично! :-) (+) — ASergej_R19 (31.10.2006 20:42 80.250.160.170, 289 байт)
  - Очень хорошо! Вот и давайте Ваш пример рассмотрим (Пример ВН оставлю на закуску) (+) — homekvn (31.10.2006 20:56 212.185.161.237, 530 байт)
    - Ответ... (+) — ASergej_R19 (31.10.2006 21:08 80.250.160.170, 322 байт)
      - Хорошо. Показываю (+) — homekvn   (31.10.2006 21:32 212.185.161.237, 928 байт)
        
        Нет... Вы упрощаете мантиссу беря частный вариант и тем совершаете ошибку... (+) — ASergej_R19   (31.10.2006 21:39 80.250.160.170, 251 байт)
        
        Скажу даже больше... (+) — ASergej_R19   (31.10.2006 21:47 80.250.160.170, 89 байт)
        
        Так Вы RMS отыщите, RMS... — homekvn   (31.10.2006 21:48 212.185.161.237, пустое)
        
        Хорошо... Вот Вам вводные... (+) — ASergej_R19   (31.10.2006 22:00 80.250.160.170, 234 байт)
        
        Тогда давайте совсем по-честному. Я попрошу Вас найти среднеквадратичное от чисел квадраты коих Вы привели выше. Сообщите результат. То же сделаю и я. (+) — homekvn   (31.10.2006 21:46 212.185.161.237, 464 байт)
      - Как только разница между числами станет меньше разрядности мантиссы - флоат начнет давать ошибку... (+) — ASergej_R19 (31.10.2006 21:22 80.250.160.170, 136 байт)
        
        Либо разница между числами больше разрядности мантиссы - тоже флоат будет с ошибкой... Вобщем - разрешающая способность у флоата хуже - о чем я и писал... (-) — ASergej_R19 (31.10.2006 21:27 80.250.160.170, пустое)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание