"самый распространеный подход к анализу процессов в ЦАП" - все написанное имеет отношение к проектированию ЦАП, но не к их применению. Применяя ЦАП, рассматриваешь его как "черный ящик" с определенными параметрами.

"дискретное время кончается там, где на вход ключей, коммутирующих матрицу, подается N разрядных линий" - это подходит для анализа процесса установления в ЦАП. А в реальной системе на выходе ЦАП мы имеем отдельные отсчеты, дискретизированные по времени и квантованные по амплитуде. Принципиально ничего не меняется (с точностью до весовой функции), представлены они дельта-импульсами, как в теории, или импульсами конечной длительности с той же площадью ("ступеньками" ЦАП).

"При таком раскладе и таком подходе принцип возникновения наложений совершенно не ясен" - а где учитывается нелинейность ЦАП?

"насчет перемножения дискретной системы на нелинейную передаточную ф-цию, порождающую линейную систему" - бррр... А где такое говорилось? ЦАП работает внутри дискретной системы. Он просто выполняет преобразование формата представления чисел в одноразрядный, так как это оказывается удобным для последующего перехода к системе непрерывного времени. Поэтому умножение сигнала на передаточную функцию осуществляется внутри дискретной системы и по законам дискретной системы. Перемножьте дискретизированный входной сигнал с определенной дискретно нелинейной передаточной функцией - Вы получите как раз те побочные компоненты, о которых весь этот разговор.

Уверен, что любая формальная модель ЦАП, если она учитывает его нелинейность, даст тот же результат. Для того, чтобы смоделировать ситуацию, нужно:
- подать на вход нелинейного ЦАП синус с частотой Fin, дискретизированный с Fs (но не коррелирующий с Fs, иначе не рассмотрим гармоник - они наложатся друг на друга)
- на выходе ЦАП ограничить спектр значением Fs/2 (чтобы избежать наложений в АЦП и доказать, что наложения происходят в ЦАП)
- подать отфильтрованный сигнал на АЦП с достаточной разрешающей способностью, чтобы увидеть интересующие компоненты спектра
- сделать преобразование Фурье над данными, полученными с АЦП
- любоваться высшими гармониками ЦАП, которые будут везде вокруг Fin :)))

Ну или просто взять массив синуса с частотой Fin, дискретизированный с Fs, умножить его на модель передаточной функции и сделать преобразование Фурье. Увидим то же самое.