真武大帝原名太玄，又称荡魔天尊、报恩祖师、披发祖师等，真武大帝是太上老君的八十二次化身，托生于净乐国皇室，国王和王后喜爱至极，为其取名“太玄”。太玄一心向道，抛弃皇位修行成仙，并发誓要扫尽妖魔，最终成为了威震北方的真武荡魔天尊。

东汉后期是玄武地位上升的阶段。道教形成以后，尊崇玄武七宿中的第一宿，即斗星，又称南斗，信仰“南斗注生，北斗注死”。魏晋葛洪《抱朴子·杂应》描绘老君形象时说：“前有二十四朱雀，后有七十二玄武。”据唐段成式《酉阳杂俎·续集》卷三记载，南北朝北魏太和(477—500年)八年(484年)，有个姓朱的道长云游庐山，“忽然蟠蛇如堆缠绵，俄变为巨龟。仿之山叟，云是玄武”，视龟蛇同时出现为玄武显灵。

道教经书中描绘真武的形象是披发跣足、身着玄袍、金甲玉带，仗剑怒目，足踏龟蛇，顶罩圆光，形象十分威猛。明代是真武大帝声势显赫、民间信仰最为普遍的时期。明朝初期，朱元璋的儿子燕王朱棣发动“靖难之变”，夺取了王位。传说在燕王的整个行动中，真武大帝都曾显灵相助，因此朱棣登基后，即下诏特封真武为“北极镇天真武玄天上帝”，因帝王的大力提倡，真武大帝的信仰在明代达到了鼎盛阶段，宫廷内和民间修建了大量的真武庙。