桓宣武作徐州，時謝奕為晉陵。先粗經虛懷，而乃無異常。及桓還荊州，將西之間，意氣甚篤，奕弗之疑。唯謝虎子婦王悟其旨。每曰：“桓荊州用意殊異，必與晉陵俱西矣！”俄而引奕為司馬。奕既上，猶推布衣交。在溫坐，岸幘嘯詠，無異常日。宣武每曰：“我方外司馬。”遂因酒，轉無朝夕禮。桓舍入內，奕輒復隨去。後至奕醉，溫往主許避之。主曰：“君無狂司馬，我何由得相見？”

　　夏侯湛作周詩成，示潘安仁。安仁曰：“此非徒溫雅，乃別見孝悌之性。”潘因此遂作家風詩。

　　桓玄既篡位，將改置直館，問左右：“虎賁中郎省，應在何處？”有人答曰：“無省。”當時殊忤旨。問：“何以知無？”答曰：“潘嶽秋興賦敘曰：‘余兼虎賁中郎將，寓直散騎之省。’玄咨嗟稱善。