[an error occurred while processing this directive]
Происходит округление мантиссы, - в силу нехватки разрядов мантиссы для представления 10 значащих цифр в исходном числе
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)
Отправлено
argus98
30 декабря 2005 г. 13:23
В ответ на:
С наступающим Новым Годом всех!!!! А есть ли ещё трезвые? Вопрос внутри.
отправлено <font color=gray>AAV</font> 30 декабря 2005 г. 13:03
Составить ответ
|||
Конференция
|||
Архив
Ответы
Т.е если нужно большое количество целых разрядов, то лучше работать с целыми типами данных? А только потом привести к float?
—
AAV
(30.12.2005 13:42
212.193.160.62
,
пустое
)
Для представления одной десятичной цифры требуется 3.322 бита двоичного числа, соответственно для верных 10 цифр требуется не менее 33 бит двоичного числа (+):
—
argus98
(30.12.2005 13:52
81.22.205.230
, 124 байт)
Отправка ответа
Имя (обязательно):
Пароль:
E-mail:
NoIX ключ
:
Запомнить
Тема (обязательно):
Сообщение:
Ссылка на URL:
Название ссылки:
URL изображения:
Перейти к списку ответов
|||
Конференция
|||
Архив
|||
Главная страница
|||
Содержание
E-mail:
info@telesys.ru