Критерии бывают разные, соответственно, алгоритмы расчёта разные. Если критерий - наибольший КПД, тогда берут большой транс с запасом, чтобы не грелся, неважна цена, лишь бы в габариты прибора влез. Если критерий - малый размер, тогда берут наименьший транс, который нагреется до максимально допустимой температуры, пофиг КПД. Если критерий - экономический, то тогда расчитывают исходя из примерно одинаковых потерь в сердечнике, обмотке и ключах. Т.е. выбрали какой-то сердечник, для него посчитали обмотку, частоту, посчитали потери в сердечнике, обмотке и ключах. Если потери в сердечнике оказались меньше всего - значит, можно уменьшить сердечник, увеличить индукцию, взять более дешёвый феррит и т.д. Ну или наоборот.

Бывает что не один десяток конфигураций приходится обсчитывать (с учётом цены компонентов), пока приемлемый вариант получишь.