这个成语说的是，隐退或失败之后，重新积蓄力量，再次出来做一番事业。
东晋时期，有个很有名的人叫谢安。他出身名门，年轻时就才华出众，朝廷好几次请他出来做官，他都不怎么感兴趣，常常称病推辞。后来，谢安干脆隐居到会稽的东山，每天和朋友们游山玩水、吟诗作对，过着悠闲自在的日子。
可是，当时北方的前秦王朝越来越强大，战火眼看就要烧到江南来，东晋朝廷岌岌可危。天下百姓都盼望着有能人来挽救国家。这时，人们纷纷说：“谢安不出山，叫天下百姓怎么办呀？”谢安听到这些话，心里也放不下国家的安危，终于决定离开东山，接受朝廷的征召，担任了大将军的军师。
谢安出山那天，许多朋友来送他。有个人开玩笑说：“你整天说高卧东山，不出来做官，如今到底还是出来了啊！”谢安笑了笑，没有回答。
后来，谢安指挥了著名的淝水之战，以八万精兵打败了前秦八十多万大军，挽救了东晋王朝。“东山再起”便流传下来，成了重新振作、再度复出的代名词。