[an error occurred while processing this directive]
|
тех что в элементах задержки хранятся.
Передаточная функция для этих переменных равна K(z)=1/знаменатель исходного фильтра.
В вашем случае если нарисовать эту характеристику
fvtool(1,[1 -1.99763046353970, 0.99763326757106 ]);
в районе низких частот будет подъем 4*10^5
Это где-то 19 разрядов.
Похоже у Вас просто переполнение по переменным состояния.
Тяжелый это случай - реализовывать фильтр при большом соотношении частоты найквиста к полосе фильтра. Требуется большая разрядность.
В таких случаях если позволяет задача, лучше понизить частоту дискретизации, пользовать multirate методы.
Попробуйте CIC фильтр, в качестве варианта.