Отправлено ASergej_R19 27 сентября 2006 г. 20:14 В ответ на: И что, никак не получается понять, на каком этапе вычислений эта гадость образуется? Пустите модель пошагово, да найдите того, кто переполняется или наоборот, слишком обрезает результат. отправлено SM 27 сентября 2006 г. 19:58

получаются "плохие", что усиливает влияние округления на общую работу фильтра... Вот, например:
B0 = 0,99881593277769
B1 = -1,99763186555538
B2 = 0,99881593277769
A0 = 1
A1 = -1.99763046353970
A2 = 0.99763326757106

• Да косяк у Вас. Фильтр нормальный. Не поленился проверил, правда на плав. зап. На целых лень. — -=ВН=-   (27.09.2006 21:09 193.125.71.140, 281 байт)
  • Да вот и с целыми проверил. Те же 2 синуса, но 24 разрядных, формат 1.23. Промеж. и вых. данные в формате 2.30, т.е. 32 разряда. "Шумы" в районе -120 дб. — -=ВН=-   (27.09.2006 21:44 193.125.71.140, пустое)
    • М-да... Странно... Пошел искать косяк... Огромное спасибо... (-) — ASergej_R19   (28.09.2006 11:22 80.250.160.170, пустое)
• А как Вы их к 1.31 умудрились привести? Если они явные 2.30? — SM   (27.09.2006 20:29 213.208.180.51, пустое)
  • вынес 2 в scale фактор... (+) — ASergej_R19   (27.09.2006 20:34 80.250.160.170, 128 байт)
    • Если завтра будет время, поглядю поподробнее на сей фильтр — SM   (27.09.2006 20:38 213.208.180.51, пустое)
      • Бью челом! Хоть одним глазком... (+) — ASergej_R19   (27.09.2006 20:43 80.250.160.170, 280 байт)
        • Фильтрует, только в путь (+) — SM   (27.09.2006 21:36 213.208.180.51, 1035 байт)
          • Большое спасибо... Странное дело... Пошел искать ошибку у себя... (-) — ASergej_R19   (28.09.2006 11:23 80.250.160.170, пустое)