Если включить igmp snooping (должен поддерживаться управляемыми свитчами второго уровня) и выставить опции фильтрации мультикаст страфика "filter unregistered", то пакеты будут форвардиться только в те порты, которые подписывались на твою группу.
При взаимодействии с другими свитчами появляется много вариантов. Вообще тема не столько сложная, соклько пакостная.