MSS - это максимальный размер данных, которые хост желает получать в одном TCP-сегменте. Грубо говоря - размер буфера памяти в хосте, в котором будет собрана датаграмма. Если у Вас стоит MSS=100, то это значит, что ТА СТОРОНА, которая шлет вам данные, не должна слать Вам больше 100 байт голых данных (без учета хидеров и прочей срани) в одном TCP-сегменте. При этом, кстати, на уровне IP, эта датаграмма может быть фрагментирована на несколько пакетов совершенно отдельно.

Самое полезное, что можно указать в MSS - это MTU-40 (в MSS не участвуют байты хидера - по 20 байт на TCP-заголовок и на IP-заголовок), чем убить всякую возможность IP-фрагментации пакета.

ЗЫ. Что такое MIN_MSS я не знаю, но думаю, что это минимальный MSS, который будет принят от удаленной стороны и обслужен. Т.е. например, если удаленная сторона скажет, у меня MSS 100 байт, а MIN_MSS стоит 536, то ей один хрен будут посылать нерезанными TCP-сегменты вплоть до 536 байт, чтобы ограничить разумным числом оверхед.