Была похожая хрень с мегой16 и ПониПрогом. Тоже при попытке перекличить с внутреннего RC генератора на внешний кварц. ПониПрог сглючил и перекинул на внешний клок. После этого, ясное дело, ПониПрог видеть мегу перестал. Выручил альтеровский байт-бластер и прога (см.ссылку), которая могет такт формировать. Теперь только ее и пользую, подключив ее прямо к IAR-оболочке и вызывая через меню.
(«Телесистемы»: «Конференция «Микроконтроллеры и их применение»»)