1/2 OFF: Бага или Фича? Причтении флоат параметра из *.ини файла (конкретно 0.0) после преобразования в стринг, получаю: 2,11843083969997E-307. :(((. Приедется топать другим путем :)
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)
Отправлено
Котик
15 октября 2004 г. 10:16
Составить ответ
|||
Конференция
|||
Архив
Ответы
Ответ: нуль не кодируется в во многих плавающих форматах. заменяется на бесконечно малую(по мнению создателей фомата) величину взято из Н.Н.
—
Закусычь
(15.10.2004 13:31,
пустое
)
Интересно каким образом ты преобразовывал. А вообще-то, сие число это практически нуль.
—
Bill
(15.10.2004 10:29, 89 байт)
Не, по-моему не то. Просто float хранится в экспоненциальном виде, а степень -0 есть что-то нехорошее, вот автоматом и заменяется на предельную величину.
—
POV
(15.10.2004 11:10,
пустое
)
Преобразовывал обычным FloatToStr, хотя в принципе уже обошел и храню параметр как целое, типа в тысячных долях. Оно понятно, что ноль, но когда в редакторе параметров вместо "0.0" всплывает такое - я полагаю рядовому юзеру будет слегка непонятно :)
—
Котик
(15.10.2004 10:44,
пустое
)
Вообще-то, есть форматный вариант FloatToStr. Там можно задать точность вывода, тогда будет выводиться корректно.
—
Bill
(15.10.2004 11:07,
пустое
)
Перейти к списку ответов
|||
Конференция
|||
Архив
|||
Главная страница
|||
Содержание
|||
Без кадра
E-mail:
info@telesys.ru