No es PDO quien inserta eso, eso sería tonto.
De seguro estás usando la función htmlentities() o htmlspecialchars() en algún lado de tus scripts, tal vez cuando recibes el formulario, tal vez intentando "limpiar por seguridad" o cualquier cosa así.
Y aquí lo imposible es adivinar en que parte del código haces eso, porque ningún lenguaje de programación hace cosas sin que tu le indiques, usa tu sentido común.