Prueba a cambiar el form por forms[0] o por el name del form. Mira este ejemplo:
Código PHP:
<html>
<head>
<title>Ejemplo</title>
<style>
form, input{font:bold 10px/15px verdana}
</style>
<script>
function comprobar(){
if(document.forms[0].elements["cajita"].checked){alert("La primera Checkbox está pinchada")}
else{alert("La primera Checkbox no está pinchada")}
}
</script>
</head>
<body>
<form>
<input name="cajita" type=checkbox > Esta es la check que se va a comprobar<br><br>
<input name="cajita3" type=checkbox > Esta checkbox no la va a comprobar<br>
<br>
<input type="button" value="Comprobar" onclick="comprobar()">
</form>
</body>
</html>