林則徐最早是從自己的知己好友、兩江總督陶澍的女婿胡林翼那里知道左宗棠的。胡林翼是益陽人，左宗棠是湘陰人，兩人同為長沙府人，又是同年所生，交往甚密。左宗棠在長沙府屬醴陵淥江書院任山長時就被陶澍視為奇才，后將自己的兒子與左宗棠的女兒定婚。陶澍逝世后，左宗棠受托前往陶澍家中教授陶家子弟。1842年，胡林翼也回鄉到陶家幫助理家，常與左宗棠“風雨連床，徹夜談古今大政”。胡林翼對左宗棠極為贊賞，稱他是：“近日楚才第一。”因此，當他得知林則徐急需輔助人才時，便大力加以推薦。林則徐見了介紹非常滿意，函復胡林翼道：“承示貴友左孝廉，既有過人才分，又喜經世文章，如其噬肯來游，實所深愿。即望加函敦訂，期于早得回音。”但當時左宗棠因侄子成親，陶澍兒子讀書等事無法脫身，錯過了這次機會。不過，林則徐就此記住了左宗棠這個名字。

　　左宗棠對林則徐則更是心儀已久。鴉片戰爭爆發，左宗棠被林則徐的愛國心所感染，“心神依倚，惘惘欲隨”。林則徐遭貶，奉調治黃河決口，出關赴新疆等事，左宗棠自稱：“仆之心如日在公左右也，忽而悲，忽而喜，嘗自笑耳。”足見他對林則徐的仰慕。

　　這次機會終于來了。林則徐在赴長沙“道湖上”（經過洞庭湖時）就遣人到湘陰東鄉柳莊召左宗棠來見面。船停泊后，左宗棠于當天趕到，和林則徐在舟中徹夜暢飲傾談。這次會見，稱得上是一次歷史性的會見。一位是清代官員的佼佼者，杰出的民族英雄，一位是未來中國歷史舞臺的風云人物，他們相見于岳麓山下，湘水之畔。舟外江風吹浪，拍擊著船舷；舟中林、左在燭下放懷暢談今昔；縱評天下大事。左宗棠頌林則徐這位65歲的前輩名臣為“天人”，林則徐對左宗棠這位37歲的布衣“詫為絕世奇才”。共同的經世抱負和曠世情趣使他們像闊別多年的故友相逢，傾心交談。

　　這次交談的內容是廣泛的，家事、國事、人物、政務無所不及。他們談到了吏治，認為官員左右向下級、百姓索討無厭是最大的弊政；他們感慨地談到了賀長齡，稱賀長齡是“大人君子”，堪為士大夫的楷模；他們也談到了滇中戰亂，林則徐表示已將禍首繩之以法，不日就能地方平定，百姓安居樂業了。而他們談得更多的是西域邊政。林則徐說西域屯政不修，地利未盡，以致沃饒之區都不富強，他曾在邊部各城大興水利，可惜功未告成，深以為憾。林則徐認為只要水利興修，稻田廣種，那么西域就能不減東南富庶之區。林則徐還預見俄國將成為中國的邊疆大患，談及他對新疆地理的觀察，俄國在邊境的政治軍事動態和自己的戰守計劃，并將有關材料全部交給左宗棠，并說：“吾老矣，空有御俄之志，終無成就之日。數年來留心人才，欲將此重任托付。……以吾數年心血，獻給足下，或許將來治疆用得著。”

　　不知不覺之中，夜已將盡，兩人才相互告別，林則徐親書對聯一副給左宗棠，曰：“此地有崇山、峻嶺、茂林、修竹；是能讀三墳、五典、八索、九邱”。上聯寫了湘江夜話處的美麗景色，下聯抒發了胸懷古今文化的豪情，或許就是對左宗棠的高度評價。臨別時，林則徐舉手拍著左宗棠的肩膀說：“將來完成我的大志，唯有靠你了！”期望之深，溢于言表。

　　湘舟夜話僅一年以后，1850年（道光豐十年）秋，左宗棠在長沙朋友寓中聽到了林則徐死于廣東的噩耗；不由痛哭失聲，流淚撰題挽聯寄托哀思：

　　“附公者不皆君子，間公者必是小人。憂國如家，二百余年遺澤在；廟堂倚之為長城，草野望之若時雨。出師未捷，八千里路大星頹。”

　　這副對聯，表達了左宗棠對林則徐的崇敬之情，他們雖僅見過一面，暢談過一宿，思想卻是相通的。“君子”、“小人”一句，道出了左宗棠對林則徐坎坷遭遇的憤懣不平，“遺澤”是指林則徐做事為人有古人遺風；“廟堂”、“草野”一句，強調了林則徐對國家、百姓的重要作用，“出師未捷”，又包含著無限遺恨與痛惜。

　　湘江夜話，給左宗棠留下了極為深刻的印象。20余年后，左宗棠輿櫬出關，收復新疆。在這片林則徐流放過的地方，他時時處處想起那天晚上林則徐的話語。為此他奏請建省，屯田墾荒，鑿修水利，努力將林則徐生前意愿一一付之實行。于是，林則徐與左宗棠的湘江夜話，成為長沙和中國近代史上令人長久思味的一段佳話。