Hola:
Pues, la cuestión es saber referenciar al elemento que se quiera borrar... y además tampoco es necesario borrar nada, en casi todos los casos, basta con ocultar el elemento... pero esa instrucción que resaltas, tal como está la podrías asociar al click del propio botón.
Saludos