Точность не терять? А ты представь что у тебя оказалось не ровно 80 точек на период, а 80.05. Какова окажется точность? («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Разработка, производство и продажа радиоэлектронной аппаратуры

| Карта сайта | Пишите нам | В избранное

Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:jobsmp@pochta.ru

Телесистемы | Электроника | Конференция «Микроконтроллеры и их применение»

Точность не терять? А ты представь что у тебя оказалось не ровно 80 точек на период, а 80.05. Какова окажется точность?

Отправлено Oldring 07 октября 2009, г. 21:53
В ответ на: Результат не такой большой, как кажется - лонглонги там, чтобы квадрат поместился и точность в вычислениях не терять (+) отправлено пользователем Michael Klokov 07 октября 2009, г. 21:48

Составить ответ | Вернуться на конференцию.

Ответы

Не сильно изменится. - Michael Klokov (07.10.2009, 21:59:51 85.249.73.51, пустое)
- Где там в коде или формулах используется количество точек на период? - Michael Klokov (07.10.2009, 22:00:34 85.249.73.51, пустое)
  - При суммировании. Но при таком количестве периодов, похоже, это уже действительно не важно. - Oldring (07.10.2009, 22:23:3 85.141.199.157, пустое)