商丘在后梁开平三年(909)升为宣武军,后唐庄宗同光元年(923)改为归德军,五代周时仍为宣武军。五代时商丘城称宋城,为宋州州治。后梁宣武军治此(军,为地方军事长官戍守之地)。后唐时改为归德军,长官为节度使。
923年,李存勖灭掉后梁,建立后唐,定都洛阳。朱温的外甥袁象先带着盘踞宋州十多年间掠夺的数十万赃银,跑到洛阳,投降了李存勖。李存勖厚待他,并赐他姓名李绍安,改宋州宣武军为归德军,仍让他回原地镇守。李存勖对袁象先说:“归德之名,为卿设也。”意思是说袁象先投降了后唐,就是归顺有德之人了。从此,商丘改名“归德”。