Отправлено homekvn 31 октября 2006 г. 20:56 В ответ на: Отлично! :-) (+) отправлено <font color=gray>ASergej_R19</font> 31 октября 2006 г. 20:42

Вы будете суммировать набор мелких чисел и я. У меня каждое число будет с 23-битной мантиссой - т.е. нормировано. В точности я ничегошеньки не потеряю. Вы - тоже не потеряете. Но только в том случае, если зафиксировать тот факт, что все поступающие отсчеты укладываются в 32-бита. (например, если Вы берете данные с выхода какого-нибудь девайса, который мне архимелкие отсчеты во флоатинге выдает, вроде 5.23*2^-72 ... ). Но здесь не буду выступать. Поскольку наш спор должен зафиксировать приемлемые условия и для Вас и для меня.

• Ответ... (+) — ASergej_R19   (31.10.2006 21:08 80.250.160.170, 322 байт)
  • Хорошо. Показываю (+) — homekvn   (31.10.2006 21:32 212.185.161.237, 928 байт)
    • Нет... Вы упрощаете мантиссу беря частный вариант и тем совершаете ошибку... (+) — ASergej_R19   (31.10.2006 21:39 80.250.160.170, 251 байт)
      • Скажу даже больше... (+) — ASergej_R19   (31.10.2006 21:47 80.250.160.170, 89 байт)
        • Так Вы RMS отыщите, RMS... — homekvn   (31.10.2006 21:48 212.185.161.237, пустое)
          • Хорошо... Вот Вам вводные... (+) — ASergej_R19   (31.10.2006 22:00 80.250.160.170, 234 байт)
      • Тогда давайте совсем по-честному. Я попрошу Вас найти среднеквадратичное от чисел квадраты коих Вы привели выше. Сообщите результат. То же сделаю и я. (+) — homekvn   (31.10.2006 21:46 212.185.161.237, 464 байт)
  • Как только разница между числами станет меньше разрядности мантиссы - флоат начнет давать ошибку... (+) — ASergej_R19   (31.10.2006 21:22 80.250.160.170, 136 байт)
    • Либо разница между числами больше разрядности мантиссы - тоже флоат будет с ошибкой... Вобщем - разрешающая способность у флоата хуже - о чем я и писал... (-) — ASergej_R19   (31.10.2006 21:27 80.250.160.170, пустое)