Синтезировать биты в лоб в частотной области?... Я так не умею :)

Давайте не будем выпендриваться. В ЦОС принято считать, что цифровой сигнал многобитный. Вы против и предлагаете всем для анализа использовать исключительно вектора отдельных битов не связанные априорно двоичными весами? Ну-ну, но не думаю, что Вас поддержит инженерная общественность. А если в таблице лежит многобитное представление оцифрованного синуса - то именно оно и есть первичное для области ЦОС, а не отдельые битики. Когда же ЦАП разваливает его на отдельные битики - тогда он и порождает сам сильные нелинейности. Он может, например, предварительсно умножить это число на 3 - это будут его детали реализации ;)

INL:

Хм... Мне казалось что для определения INL проводят прямую через крайние точки и смотрят отклонение от неё. Для этого цифровые отсчеты должны быть как минимум упорядочены, а лучше, быть помещены в поле действительных чисел - чтобы провести прямую :)