Hola de nuevo.
Con unos pequeños cambios, creo que podría servirte:
Código PHP:
<html>
<head>
<script language="JavaScript">
var total = 20;
function cuenta(){
if (document.formulario.mensaje.value.length >= total) {
return false;
}
}
</script>
</head>
<body>
<form name="formulario">
<textarea name="mensaje" onKeyPress="return cuenta()" rows="10" cols="50">
</textarea>
</form>
</body>
</html>
Saludos,