Hola:
Para 3 cursos y 10 preguntas por curso...
for (var i = 0, cursos = 3; i < cursos; i ++)
for (var j = 0, preguntas = 10; j < preguntas; j ++)
if (document.forms.form1["pregunta_" + i + "[]"][j].value == "") {
alert("debes llenar todos los campos;
return false;
}
Notas:
false no es una función...
cuando se quieren poner objetos variables se ponen entre corchetes, los índices también
Se debe consultar el value.
Saludos