hay mil y una maneras de ahcer eso.... puedes ir dividiendo, tomas el residuo y divides otra vez por el numero de billete mas chico al de la ultima divicion, puedes usar recursividad o un ciclo....
ej:
540/500 = 1.08 -> 1 billete de 500
540%500 = 40 ->te sobran 40 pesos
40/200 = 0.2 -> 0 billetes de 200
40/50 = 0.xx -> 0 billetes de 50
40/20 = 2 -> 2 billetes de 20
40%20 = 0 ->terminamos!
have funnnnnn