Отправлено Математик 25 июня 2003 г. 07:38

Фиксируется количество включений объекта Nsumm и максимальная нагрузка Pi (в %) с которой работал объект во время включения. Требуется считать коэффициент по формуле:
K=1/Nsumm*Сумма(Pi/100%)^3. После каждого включения накапливаю в памяти сумму кубов. Но вот число включений 3-х байтовый счетчик (2^24). Так вот вопрос: в каком формате нужно хранить сумму кубов чтобы не потерять точность вычисления при прибавлении например 2^23+0.5 ???

• А может проще сохранять ещё не вычисленные значения ? — edward   (25.06.2003 11:30, пустое)
• Я тут сам покумекали придумал - гляньте и покритикуйте (+) — Математик   (25.06.2003 10:47, 192 байт)
  • Ответ: Будет, если перед операцией деления Вы всё-таки перейдёте к float. В противном случае (целочисленная арифметика) делить нужно не на 10^6, а хотя бы на 10^4, чтобы получить число в диапазоне от 0 до 100. — BB   (25.06.2003 13:13, пустое)
• Трудно представить практическое применение, где необходима такая точность, если, конечно, это не лабораторный стенд какой-нибудь. — Rintik   (25.06.2003 10:28, пустое)
• Только double, т.к. 2^23+0.5 =8388608.5, а float дает всего около 7 значащих цифр. — Sgrig   (25.06.2003 09:45, пустое)
• я бы хранил все в float - всего 4 байта.....если точности не хватит (я не считал) храни в double - 8 байт — lmu   (25.06.2003 08:34, пустое)
• IEEE 754 — Звероящер   (25.06.2003 08:19, пустое)
  • стандарт IEEE754 оговаривает 4 формата представления чисел с плавающей точкой (+) — SOIC   (25.06.2003 10:27, 143 байт)
    • Ну, это на вкус потребителя....: ) — Звероящер   (25.06.2003 14:54, пустое)