Отправлено вопрос 22 апреля 2003 г. 20:47 В ответ на: не успел!!! ;-((( это беда твоего железа изза неправильности округелния возникает биение 1000 ошибок огругления при сложении вот и все ;-))) отправлено net 22 апреля 2003 г. 20:35

Все вычисления целочисленные, 32 и 64 бит, есть даже вариант без единого умножения, писано некорявыми руками на чистом ассемблере. Есть еще идеи?

• Если на вход подаешь постоянный сигнал, а на выходе сумма N отсчетов не стоит с точностью до 0.1 микросекунды, или есть зона нечувствительности - значит, что-то нехорошее творится с самим датчиком. — Oldring   (22.04.2003 20:52, 221 байт)
  • То же самое при прямой подаче CMOS сигнала с генератора... Остатки ума сломал уже! — вопрос   (22.04.2003 21:03, пустое)
    • Выкинь треугольник и посмотри простую сумму N отсчетов. — Oldring   (23.04.2003 09:20, пустое)
    • вы не можете утверждать что у вас период всегда кратен дискретизации — net   (22.04.2003 22:41, 289 байт)
      • Не понял, как это - потеряю? Из-за чего? — вопрос   (22.04.2003 23:21, пустое)
        • поскольку вы дробите свое измерение то создаете дополнительные ошибки - надо брать просто сумму сразу - раз у вас это позволяет делать техника иначе вы получаете шум изза своих треугольников суммирования — net   (23.04.2003 15:49, пустое)

E-mail: info@telesys.ru