Hay que ver el html que generas y si el $course es número o cadena.
No puedes meter el onclick dentro del href.
echo no necesita paréntesis.
Yo prefiero encerrar los atributos html en comillas (dobles)
echo "<a href=\''\" onclick=\"boton_curso('$course')\"></a>";
o bien
echo '<a href=''" onclick="boton_curso(\''.$course.'\')"></a>';
o bien, si estás seguro que course es número:
echo '<a href=''" onclick="boton_curso('.$course.')"></a>';