[an error occurred while processing this directive]
Не, с gmsk не знаком. Просто тогда корректнее не говорить, что чем "(длинее)" фильтр, "...тем больше проблем в отфильтрованном сигнале". Просто, чем фильтр более прямоугольный, тем больше проблем (+)
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)
А дилемма эта известная. Если прямоугольная форма в частотке, то "пляска" во временной области будет, а прямоугольность во временной области оборачивается "пляской" в частотной области. Поэтому надо работать с окнами, "пляску" устраняющими.