Básicamente tienes de dos sopas.
O usas la calidad de tu material original o usas la calidad de destino.
Widescreen no dice nada. El estándard es FullHd que son 1920x1080 30 cuadros por segundo (tal vez 29.97)
Si lo requieres más chico tal vez el HD que son 1280x720 o como mínimo de 854x480.
El audio en 48khz.
Lee más específico:
https://support.google.com/youtube/answer/1722171?hl=en
Pero el concepto de se "pixeleen" pueden ser muchas cosas. Mal video original, mala compresión, o tal vez simplemente que en el cambio de resolución se te generan "compression artifacts".