Думаю, всё же без мухоморов не обошлось:)) Тебе нужно было сделать передачу толко маленького кусочка спектра от - 0 до 20 Гц. А остальную часть спектра (20...20000 Гц) нахрена трогать( модулировать и проч.) если она и так через канал проходит?(+)
выдели указанный низкочастотный кусочек 0...20 Гц хорошим фильтром и его и подавай на модулятор. Да используй частотную модуляцию. И поднесущую возьми в районе 21 кгц, а макс. девиацию герц 500.