Te sirve la función explode o expresiones regules etc... Normalmente esos errores vienen entre comillas, si vienen entre guiones como lo tienes reemplazalos.
Código PHP:
Ver original<?php
$str = "Duplicate entry '3243443' for key 2";
echo $res[1]; //3243443
//Otra opción
echo $m[1]; //3243443
Edit: en el caso de querer los 2 valores entre comillas del mensaje de error, tienes que usar preg_match_all en vez de preg_match.
Enlaces de interés:
[APORTE] Expresiones PCRE Función explode
Saludos.