El problema está en las comillas que utilizas en lugares en los que no deben de ir. Así debería funcionar:
Código Java:
Ver originalout.println("<a href=\"javascript:void(0)\"; onclick=\"window.open('"+rs.getString("pdf")+"'\"); class=\"popup\"></a>");
Recuerda que cuando usas comillas dobles y necesitas usar más comillas entre las primeras pero ya no puedes escapar más comillas dobles, puedes usar comillas simples.
Un saludo