Si preguntas como poner el borde en sí, como SebastiFast te ha dicho.
Si preguntas como redondear... Seleccionas lo que quieres dentro del marco con la herramienta marco rectangular o si es justo el tamaño de la capa, clic en la paleta capas sobre la miniatura mientras apretas control
De ahi te vas a Menú Selección> Modificar > Suavizar y pones el valor que más te guste para el redondeo que buscas, para esa que pones creo que puede haber sido alrededor de 15.
Una vez lo has encontrado, Selección > Invertir (o ctro + Mayus + I) y suprimir.
Por último añades el borde.
Saludos