Мы знаем, что там, где максимум амплитуды, там и искомая частота. Еще мы знаем, что БПФ это дискретные отсчеты непрерывной спектральной функции. Еще мы знаем, что спектральная функция обоконненого прямоугольным окном синуса это sinc. Осталось малое :) решить задачку интерполяции непрерывной спектральной функции по ее отсчетам, и найти положение максимума этой функции.