Textualmente te faltó una coma por médio en el método AddEmbeddedImage() .. los "tres" datos que se requieren son "parámetros" .. por eso van separados por comas .. Tal vez sea un despiste (pero insisto .. fijandote una vez más en la documentación lo podrías corroborar).
Código PHP:
$mail ->AddEmbeddedImage("caballo.jpg","my-atach","caballo.jpg");
Sólo necesitarías usar esa línea .. el "attach" ya no correspondería.
Un saludo,