Отправлено Kostofey 17 марта 2006 г. 13:49 В ответ на: И как сильно они различаются? отправлено _Bill 17 марта 2006 г. 13:45

В общем цифры такие 0.23334554 и 0.03334554
результат может быть 0 или там число с Е-44
при чем очень сильно зависит от расположения кода
так же с делением 0.2например на 20 и 20.0 результат 0

• Для float мантисса 2^23 бит, чуть больше 6 десятичных разрядов. — Codavr   (17.03.2006 15:23 193.233.48.103, пустое)
• если числа очень большие, на грани максимальной размерности, то вполне может быть. А 0 и E-44 это для 4-х байтного float это вообще выше размерности мантиссы — Elektronik   (17.03.2006 13:56 194.85.99.225, пустое)
• Ну, тогда код в студию! — _Bill   (17.03.2006 13:51 193.233.83.90, пустое)
  • Выглядит так : — Kostofey   (17.03.2006 14:01 195.22.132.3, 244 байт)
    • А что-то типа (float)CoeffA=( (float)Result[i]- (float)Result[i+1])/ (float)20; пробовали? — MrSerg   (17.03.2006 14:35 80.95.38.197, пустое)
      • :)) данная паранойя совершенно лишняя — ы   (17.03.2006 14:41 80.92.98.211, пустое)
        • А Вы уверены , что типы переменных у Kostofey не перепутаны. Может CoeffA не float. :)) — MrSerg   (17.03.2006 14:52 80.95.38.197, пустое)
          • Это как раз неважно. — =DDD=   (17.03.2006 15:24 81.3.156.42, пустое)
    • Еще вопрос: Вы как результат смотрите? Откуда у Вас такие выводы? — _Bill   (17.03.2006 14:24 193.233.83.90, пустое)
      • сорри срочно пришлось убегать .. смотрел в авр студио и переменные не путал все что нужно стоит в float — kostofey   (17.03.2006 18:17 193.17.208.254, пустое)
    • ну у float мантисса 3 байта, сами посчитайте какая точность вычислений. Плохая точность будет особенно заметно когда одно число от другого сильно отличается по размерности — Elektronik   (17.03.2006 14:04 194.85.99.225, пустое)
      • Если 3 байта то мин число 2 в -23 как минимум а тут числа 0.2/20 да и точность то великая не нужна — Kostofey   (17.03.2006 14:09 195.22.132.3, пустое)
        • При чем ситуация хуже тем что две одинаковые формулы следующие друг за другом считаются по разному одна правильно другая нет — Kostofey   (17.03.2006 14:12 195.22.132.3, пустое)
          • оптимизатор небось на макс? — ы   (17.03.2006 14:31 80.92.98.211, пустое)
            • На этапе отладки оптимизация всегда на лоу — kostofey   (17.03.2006 18:19 193.17.208.254, пустое)
            • либы не оптимизируются. — =DDD=   (17.03.2006 15:25 81.3.156.42, пустое)
              • либы нет, а остальные вычисления (размещение результата) да, причем в дебагере может совершенная чушь отображаться при макс оптимизации — ы   (17.03.2006 15:29 80.92.98.211, пустое)
                • Чушь отображается _только_ если локалка или ее текущее значение более не нужны. — =DDD=   (17.03.2006 15:44 81.3.156.42, 88 байт)
    • еще — Kostofey   (17.03.2006 14:03 195.22.132.3, 69 байт)

E-mail: info@telesys.ru