Al final de la linea tienes dos veces las comillas.
Código PHP:
<input type="button" value="ENTRAR" onClick="javascript:validacion()"">
Edito, quitale trabajo a PHP:
Código PHP:
<?php
// codigo
?>
<script language="JavaScript">
var varjs="<?php echo $pass; ?>";
function validacion()
{
if (document.form.pass.value!=varjs)
{
alert("Contraseña incorrecta");
document.form.pass.selec();
return 0;
}
else
{
document.form.submit();
}
</script>
</head>
<body>
<form action="contrasena_rpta.php" name="form" method="post" >
Contraseña: <input type="text" name="pass">
<input type="button" value="ENTRAR" onClick="javascript:validacion()">
</form>
</body>
</html>