Например интерполяционными методами уточнить точное положение пика БПФ, учитывая, что этот пик имеет вид функции sinc (sin(x)/x). Еще есть всякие методы основанные на анализе собственных чисел и собственных векторов корреляционной матрицы (EV, MUSIC), но они сложноподъемные с вычислительной точки зрения.