No te recomendaria confiar en una herramienta sin soporte, por el momento no hay usuarios dando mantenimiento a esta libreria. (
http://pear.php.net/package/Crypt_RSA).
Puedes intentar
var_dump($rsa->createKey()); para ver que valor te devuelve y saber como tienes que manejarlo.