|
|
Для калибровки прибора построил в EXELe график у(х), где у - значение ошибки, х - значение измеряемой величины (у и х -массивы). Далее наложил линию тренда полиномом 5-го порядка. Получил уравнение у = с5*x5 + ... Линия тренда легла на построенный график практически абсолютно точно.
Далее проверяю EXEL. Вычисляю в EXELe по полученному уравнению тренда ошибку. Вычисление дает ошибку и существенную. Так в точке, где ошибка 100, вычисление дает 80. И это на графике, где максимальная ошибка равна 100.
Вопрос 1: кто знает почему линия уравнения тренда совпадает с линией экспериментальных измерений на графике, а на самом деле дает огромную погрешность?
Коэффициенты с5 и т.д в уравнении имеют экспоненциальный формат без десятичных знаков, например: 4Е-20. Я попытался вручную подкорректировать коэффициенты для уменьшения погрешности. У меня получилось. Погрешность уменьшилась до 1 по сравнению с 20. Хотя потратил уйму времени. Пару коэффициентов пришлось изменить на один десятичный знак - 4.1Е-20.
Ворпос 2: я не нашел в EXELe, где изменить формат коэффициентов в уранении линии тренда, например с двумя десятичными знаками. Если кто знает, дайте знать, пжл.
Вопрос 3: есть ли из доступных программ альтернатива EXELю для выполнения подобных действий?
В инете ничего не нашел.
Заранее спасибо.
|
|
E-mail: 
info@telesys.ru
