Отправлено Oldring 09 сентября 2005 г. 17:58 В ответ на: Нет-нет, наверное я плохо объяснил, попробую ещё раз отправлено -=Shura=- 09 сентября 2005 г. 13:43

Если у прибора большой диапазон - как правило, важна относительная погрешность его показаний, а не обсолютная. В этом случае может помочь таблица с неоднородным шагом - грубо говоря, логарифмическим. Алгоритм интерполяции прост: приводим показание прибора к плавающему числу, порядок - это несколько старших бит индекса в таблице, старшие биты мантиссы - это младшие несколько бит индекса в таблице. Таким образом, находим две строки в таблице поправок, между которыми находится аргумент, и дальше вычисляем поправку показания прибора тем способом, который больше нравится.

Если еще и вычислительных ресурсов много - можно вообще сначала прологарифмировать показания прибора, скорректировать его показания подходящей функцией, а потом взять экспоненту.

• Девайс серийный, за такое решение заставят потом самого таблицы набивать :-) — -=Shura=-   (09.09.2005 18:07 217.21.50.43, 97 байт)
  • Ну а так забил отклик в нуных точьках и 3.14. Разниццы нет. — -mse-   (10.09.2005 22:07 213.132.70.171, пустое)
    • Некоторая разница есть. Прописывать в каждый камень килобайтную таблицу придётся вместо десятка байт коэффициентов — -=Shura=-   (12.09.2005 11:55 217.21.50.43, пустое)
  • С калибровкой обычно лучше всего справляется компьютер. — Oldring   (09.09.2005 18:15 83.237.133.144, 147 байт)