No había visto tu respuesta.
El problema es que especificas el mismo ancho para ambos elementos, y al estar el primero flotado y salir del flujo natural (que en mi opinión es una forma extraña de salir del flujo, no
real) te hace ese efecto tan extraño.
Si eliminas el ancho, verás que visualmente se pone al lado. Aunque si le aplicas un color de fondo, verás que no es que se ponga al lado, sino sólo su contenido.
En realidad ocurre la misma cosa cuando es una imagen y un párrafo:
http://jsfiddle.net/XNm6f
Si al párrafo le pones un ancho igual que la imagen, te ocurrirá lo mismo que a ti, que el contenido se irá hacia abajo, ya que a lo ancho no le queda sitio.