这个成语用来形容做了一场大梦，或者比喻得到一场空欢喜。
隋末唐初，有个叫淳于棼的人。他家院里有棵大槐树，枝叶繁茂。一天，他过生日，多喝了几杯酒，就在槐树下睡着了。
迷迷糊糊中，他来到了一个叫“大槐安国”的地方。正好赶上京城考试，他一下子就考中了第一名！皇帝看他一表人才，很喜欢他，把公主许配给了他。后来，皇帝又派他到“南柯郡”去当太守。这一当就是二十年，他把当地治理得非常好，深受百姓爱戴，皇帝也多次要给他升官。
可是好景不长，有一年，有敌人来入侵。大槐安国的将军们都被打得落花流水。情急之下，皇帝就任命淳于棼统帅全国大军去迎战。可怜淳于棼对打仗一窍不通，刚和敌人交战，就全军覆没。皇帝大怒，撤了他的职，把他遣送回乡。
淳于棼又气又急，“啊”的一声大叫，从梦中惊醒。他坐起来一看，月亮还挂在枝头，星星也在闪烁。原来，刚才的一切都是一场梦！再仔细找找，他发现那所谓的“大槐安国”，不过是槐树下的一个蚂蚁洞；而那当了二十年太守的“南柯郡”，只是槐树最南边的一根小树枝。