раз вы "с видеосжатием ни разу не работал" то рекомендую для начала ознакомиться с основами на PC, благо уж тут что-то подходящее из исходников для примера найти можно, а уж потом подбирать под задачу платформу.
А так, из блэкфинов, думаю начать стоит с BF561. Он по производительности и толщине шины более адекватен поставленной задаче, но справится он или нет я с уверенностью сказать не могу, т.к. сам mpeg4 не занимался.
у меня есть свой кодек, написанный несколько лет назад на базе вейвлетов и арифметического сжатия. 400 МГц BF531 с потоком D1 справляется. Исходя из этого я и предположил, что на mpeg4 ресурсов не хватит, т.к. он всё-таки значительно сложнее.