En el método de la clase listado "filtrar" no esás devolviendo una cadena, la estás imprimiendo con ECHO. Asi que luego en el PHP llamado por AJAX, cuando llamas a filtrar, estás esperando un STRING para hacerle el json_encode.
Asi que se llamará a la función, se imprimirá el <ul> ... </ul> en html normal y corriente, y luego cuando la función regrese sin devolver nada, se hará el ECHO de JSON_ENCODE de una cadena a null.
Lo único que tienes que hacer es hacer un RETURN "<ul>".$lista."</ul>"; en vez del ECHO, en la clase listado. Además en "mostrar" has usado alguna vez la variable mal escrita $catgegoria.
También te faltaría declarar el atributo listado.
Por ejemplo,
class listado{
private $productos=array();
...
}