Отправлено zlogic 08 сентября 2006 г. 13:20 В ответ на: И ему можно доверять? отправлено _Bill 08 сентября 2006 г. 13:14

Ну вот смотрите...
Считаю... должно быть в идеале 156.2мВ...
каналы кажут: 1-ый = 149мВ, 7-ой = 130мВ...
если даже мультиметр китайский врёт, то он бы врал с постоянной ошибкой... а тут кто в лес, кто по дрова...
На самом деле у меня HP с шестью знаками после запятой...

• Понятно. Но все равно, я бы посоветовал Вам измерить напряжения и другим прибором. — _Bill   (08.09.2006 13:27 193.233.83.66, 151 байт)
  • Поменял микросхему... Нет улучшения... поменялось просто распределение бардака по каналам... Ну. чтож, похоже, техподдержкау придётся тискать... — zlogic   (08.09.2006 14:11 81.4.238.242, пустое)
    • Не надо мучить техподдержку, надо читать даташит ДО того. Max [(+-16LSB INL)+(+-1 LSB DNL)+(+-60 mV Offset error)+(+-1.25% of FS Gain error)+(+/-60 mV Lower/Upper deadband)] сам посчитаешь, или помочь? — =AVR=   (08.09.2006 15:12 80.92.96.19, пустое)
  • Обязательно поробую...(+) — zlogic   (08.09.2006 13:31 81.4.238.242, 233 байт)