Caballeros, no es aserrado, es un
halo claro-obscuro. No hicieron la tarea de leer el enlace
El problema es que generaste primero la imagen con un fondo claro y luego lo quisiste sustituir por uno obscuro.
Si en teoría tu programa te lo generó desde un inicio así, es por que el sistema lo está haciendo en pasos por separado, lo cual puede ser un error de cómo ellos implementan la herramienta. Es común en los programas que generan un render en cualquier etapa, ya que lo hacen en pasadas por separado.
En este caso lo tienes que solucionar a mano.
1) Enmascaras
2) Reduces la máscara
3) Generas una nueva capa
Luego pondré los detalles del error en la implementación. Es un tema muy interesante.