劉簡作桓宣武別駕，後為東曹參軍，頗以剛直見疏。嘗聽記，簡都無言。宣武問：“劉東曹何以不下意？”答曰：“會不能用。”宣武亦無怪色。

　　於法開始與支公爭名，後精漸歸支，意甚不忿，遂遁跡剡下。遣弟子出都，語使過會稽。於時支公正講小品。開戒弟子：“道林講，比汝至，當在某品中。”因示語攻難數十番，雲：“舊此中不可復通。”弟子如言詣支公。正值講，因謹述開意。往反多時，林公遂屈。厲聲曰：“君何足復受人寄載！”

　　桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。