el primer parámetro tiene que ser una expresión regular global. por cierto, te conviene capturar un solo BR en lugar de dos, porque si se diera la situación en que existe un solo BR, entonces la expresión con dos BR no lo capturaría.
Código:
"string <br /> string".replace(/<br \/><br \/>/g, '\n\n');
// aqui no reemplazaria el <br /> ;
"string <br /><br /> string".replace(/<br \/>/g, "\n");
// aqui se reemplazan cada BR por un salto de linea ;