Para mi es más fácil agregar una máscara a cada capa que quieras enmascarar.
Aca un ejemplo ...
Con la capa seleccionada clickeas el boton de mascara... como verás se creará
un rectangulo en blanco al lado de la imagen pequeñita ... luego seleccionas
la herramienta degrado y degradas la imagen !!