En tu caso, debes mostrar tanto notas inferiores a 4 como las otras pero unas van a ir con la condicion de ser menores a 4 y las otras no.
En ese caso, un if(nota < 4) muestra el <td> con <span color="red"> y el else solo con <td>
Ejemplo:
Código PHP:
if($notas[$i][$p]<4){
echo "<td><span color='red'>".$notas[$i][$p]."</span></td>";
}else{
echo "<td>".$notas[$i][$p]."</td>";
}
Suerte!