Sencillo, ejecuta nuevamente para eliminar el segundo caracter:
Código Javascript
:
Ver originalcadena.replace(",", ""));
cadena.replace("'", ""));
También es posible hacerlo con expresiones regulares, pero desconozco su uso y si eso pueda afectar el rendimiento del script.