得不走出东山，踏入官场。他接受了征西大将军桓温的征召，担任军司马一职。尽管这只是一个低品级的官职，但它却为谢家修复了与掌握朝政的桓温的关系，展现出了谢安的远见卓识。

谢安初入桓温幕府时，便遭遇了他人的冷嘲热讽。有人故意送来一包草药，其中一味名为“远志”。桓温见状，戏谑地问谢安：“这草药真有意思，根叫远志，苗叫小草，何解？”桓温的参军抢答：“这有何难解，根在土里未出，故曰远志；