此詩從題材上來說屬于應酬之作，但是由于詩人與張祜同是懷才不遇，深有感觸而發，故而這首和詩寫得很有真情與深度。

首聯盛贊張祜詩才高絕：他的才華高過建安七子，連曹植與劉楨都不在話下。這顯然是杜牧對張祜的過譽之詞，但由于是古人贈答詩中常見的客套話，也就無足深怪。

頷聯敘述張祜的不平遭遇：他曾得宰相令狐楚的薦舉，就像當日孔融推薦禰衡一樣；但是他卻沒有遇著蒯通那樣的人為之旁敲側擊說好話，卻碰到了說壞話的元稹，以至于終身沒有得到施展抱負的機會。此處詩人使用正反兩個典故，十分含蓄而得當。

頸聯表現張祜對朝廷不改其忠貞，隱居鄉野之間也不放棄自己的志向：他在夢中還一直牽掛朝廷，他的胸懷就像流經住處的長江一樣浩大，有并吞萬里長空之勢。以“北極”比喻朝廷是詩中所常用的，而下句的“西江”既在形式上與上句的“北極”構成對仗，是對自然環境的描寫，也是張祜胸懷抱負的曲喻，在修辭上十分巧妙。

尾聯歸結到張祜文才高妙而不得重用的不幸遭遇上：他所作的《宮詞》，在皇帝的后宮中被宮女們廣泛傳唱著，可是又有什么用呢?這并不能對他的身世遭遇有所改變，所以說是“虛唱”；而“故國三千里”，一方面是張祜《宮詞》的原句，另一方面也是暗示張祜隱居鄉野之間，距離朝廷十分遙遠。全詩就在這深沉的慨嘆之中戛然終止，給人留下無窮感嘆。

此詩使用典故巧妙自然，感情真摯深沉，寫得有氣勢，表現了杜牧對張祜的贊賞。當時的詩人鄭谷，故稱有詩吟詠此事：“張生故國三千里，知者惟應杜紫微（指杜牧，曾任紫微舍人）。”