Hola,
La sintaxis correcta es when, no where, de todos modos solo soporta los operadores != o =
Código:
APPEND INTO TABLE T1 WHEN columna = valor
Para estos casos, puedes crear una constraint en la columna fecha que no admita ciertos valores de fecha y el SQL*Loader los va a descartar.
Saludos