Estuve probando, y una manera más simple es con varias capas de video...
Veamos. Tienes la capa con la película base, arriba colocas otra capa con la misma película, sobre esta última, con el botón derecho le das en Mask -> New mask y ajustas la máscara al rectángulo que necesites, esto solo dejará ver esa parte de la película enmascarada, ahora, sobre esta capa enmascarada, puedes agregarle los efectos de blur o agrandar un poco o darle opacidad.
Puedes jugar con las capas que sean necesarias para tener los resultados que necesitas...
