естественно можно подобрать фильтр ФАПЧ так, что будут сколь угодно малые биения, но при этом нужно учесть время и вид переходного процесса (перестройки частоты) - то есть чем лучше у ФАП шумовые свойства - тем хуже следящие
в совке было выпущено много книжек по следящим системам, автоматическому управлению и т.п - в любой библиотеке найдете как считать ФАПЧ (единственный недостаток советских книжек - в них дофига всяких интегралов и прочей зауми, не имеющей отношения к делу, но есть примеры...)
если Вам попадалось что-нибудь по теме в сети - поделитесь