Hola creo que es por que te falta el utilizar tu metodo set porque lo asignas al objeto pero no como deberias intentalo asi.
Código:
class Linea
{
private Punto pntoA;
public Linea(Punto a, Punto b)
{
this.pntoA.setX(a);
this.pntoA.setY(b);
}
}
Aunque no se por que creas dos objetos segun yo bastaria con utilizar solo uno.
Saluditos