[an error occurred while processing this directive]
Ответ:
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)

миниатюрный аудио-видеорекордер mAVR

Отправлено -=ВН=- 23 сентября 2004 г. 11:39
В ответ на: Не совсем.... отправлено artem 23 сентября 2004 г. 11:26

floor возвращает целое, не большее ее аргумента. Дело в том, что в выражении x/0.1 выполняется все таки деление. x*10 не совсем эквивалентно. Объясню почему. 0.6 на самом деле может быть не 0.6 а 0.6000000001, к примеру. Лень проверять, просто иллюстрация. А 0.1 не 0.1, а тоже чуть больше. В результате деление даст чуть меньше 6. При умножении, за счет точной 10, будет чуть больше 6. Это, кстати, вчера и было проверено. А компилятор - VISUAL C мелкософтовский. 6-ой наверное. Это не глюк, это фокусы конечной разрядности.

Составить ответ  |||  Конференция  |||  Архив

Ответы


Отправка ответа

Имя (обязательно): 
Пароль: 
E-mail: 

Тема (обязательно):
Сообщение:

Ссылка на URL: 
Название ссылки: 

URL изображения: 


Перейти к списку ответов  |||  Конференция  |||  Архив  |||  Главная страница  |||  Содержание  |||  Без кадра

E-mail: info@telesys.ru