1925年夏，段德昌在南县党组织的介绍下进入黄埔军校，成为第四期的一名学员。在黄埔军校期间，段德昌作为“青军会”的重要成员之一，与国民党右派分子进行了激烈的斗争。入学后不到半年，他就被校长蒋介石借故开除了。好在他的境遇还不算太差，在周恩来的介绍下，段德昌进入中央政治讲习班学习，毕业后被分配到国民革命军第二军任营长，不久又调任到第六军担任第五团的党代表。

1926年夏，段德昌随部队开始北伐。攻克武昌后，段德昌升任第三十五军第一师政治部主任。在这期间，他认识了在第三十五军第一团任第一营营长的彭德怀。从此，两人结下了深厚的战斗友谊。不久，段德昌被允许随第一团前往当阳玉泉山作战。可是，当第一团赶到玉泉山时，敌人早就逃得无影无踪。当晚，段德昌与彭德怀夜宿玉泉山上的关帝庙中，两人亲切交谈了许久。关于这次谈话，彭德怀到了晚年仍记忆犹新，他回忆说：

到达玉泉山时，敌已先一天通过该地。山上有座关帝庙规模很大，地势险要，古柏苍松，别有风味，即《三国演义》上写的关云长显圣处。部队就在该地布置宿营。我和段德昌在关云长塑像前，铺了稻草就宿，相谈甚深，使我得益不少。段问我对关云长有何感想，我说：“关是封建统治者的工具，现在还被统治阶级利用作工具，没有意思。”段问：“你要怎样才有意思呢？”我说：“为工人农民服务才有意思。”段问：“你以为国民革命的最终目的是什么？”我答：“现在不是每天都在喊着打倒帝国主义，军阀、贪官污吏、土豪劣绅，实行二五减租吗？我认为应当实行耕者有其田，而不应当停留在二五减租。”段说：“一个真正的革命者，也不应当停留在耕者有其田，而应当变生产资料私有制为公有制，由按劳分配发展为按需分配的共产主义制。共产党是按照这样的理想而斗争的。俄国布尔什维克领导十月社会主义革命胜利后，已实行按劳分配，消灭阶级剥削。共产党的任务，就是要实现社会主义和共产主义，共产党员就是要为这样的理想社会奋斗终生。”段问我：“加入了国民党吗？”我说：“没有加入，我不打算加入国民党。”段问：“为什么？”我说：“你看现在这人，如唐生智、何键等等，都是军阀大地主，还以信佛骗人；何键、刘铡等还卖鸦片烟，同帝国主义勾结。这些人连二五减租都是要反对的，哪里会革命呢？”段未答。我问：“国民党中央党部情形如何？”段告：“蒋介石、胡汉民、孙科、宋子文、戴季陶等都是些假革命、反革命。”

这次谈话长达两个多小时，使彭德怀受益匪浅、终生难忘，对彭德怀的思想和信仰转变起到了关键性的作用。后来，段德昌又与彭德怀谈了几次话，大大提高了彭德怀的政治觉悟。不久，彭德怀就主动来找段德昌，请求加入中国共产党。虽然段德昌很愿意做彭德怀的入党介绍人，但鉴于当时正处于国共两党合作期间，党组织便没有批准彭德怀的入党申请。

大革命失败后，段德昌离开第三十五军，前往沙市一带发动秋收起义。在一次战斗中，他的眼睛被烧伤，遂秘密回到家乡养伤。与此同时，彭德怀也从第三十五军脱离出来，担任了湖南陆军独立第五师第一团团长。鉴于彭德怀在大革命失败后坚定维护工农革命利益等政治表现，段德昌再次当了他的入党推荐人。当中共南华安特委派代表前来与他谈话时，彭德怀才知道是段德昌推荐了自己。

彭德怀成为正式中共党员后，到段德昌的老家探望他。两人寒暄一阵后，就当前的革命局势作了深入探讨。这次会面仍旧让彭德怀获益匪浅。后来，彭德怀回忆说：“听了他的谈话，觉得身上增加了不少力量，改变了‘马日事变’后的孤立惑；觉得同共产党取得联系，就是同人民群众取得联系，也就有了依靠似的。”

洪湖地区的“火龙将军”

在洪湖革命老区，当地百姓一提起两条“龙”就津津乐道。其中一条龙即指“火龙将军”段德昌。