Последовательное программирование невозможно выключить последовательным же программированием - только параллельным. JTAGEN на ISP не влияет. CKSEL=1111 (пустые окошечки, т.е. без галок) - это не внешний ГЕНЕРАТОР, а внешний КВАРЦ - подключи кварц и два кондера по 15..22 пФ, и все будет ОК