Hay un programa llamado
DenyHost que es capaz de bloquear los acceso SSH desde determinada IP después de una cierta cantidad de intentos fallidos. Es una buena solución para tu problema, pero úsalo con cuidado: si no lo configuras bien, puedes terminar bloqueando tu propia IP
.