Ну это зависит от того,что за монтаж.Если я сам делаю видео(сапоставляю аудио и видео фрагменты), то в данном случае я пользуюсь:
Adobe Premiere Pro 1.5
Sonic Foundry/Vegas
В стандартном варианте у этих обеих программ не так-уж и много различных видео-эффектов(во всяком случае, мне их не хватает), так что приходится подключать плагины дополнительные.
Так-же с недавнего времени стал пользоваться программой-
Particle Illusion ... вроде так называется.
Формат видео файла(при конвертации) зависит от того, для чего видео.
Или для Web-страниц оно нужно, или для частного просмотра(т.е. для самого себя к примеру).Если для Web, то использую формат данных WMV (Windows Media Video) или RM(Real Media), размер файла получается не большой.
Для себя делаю формат MPEG 4 с кодеком DIVx к примеру.
Второй вариант, это формат AVI- очень неплохой и всем известный(чисто компьютерный), для него склоняюсь к кодеку DIVX V6.0 или-же к кодеку 3DIVxMPEG4.
В общем все так.