不过，在处理同国民政府的关系时，佛采尔却遇到了一些麻烦。德国顾问来华工作均以私人身份受聘于蒋介石，这种特殊的地位使他们同中方有关部门之间难免发生矛盾。1932年至1934年期间，南京政府军事委员会一度试图改变这种聘任办法，降低聘任规格，由用人单位直接聘任，顾问也不局限于德国人。为顶住这场“改革”，佛采尔向蒋介石表示，德国顾问来华服务的基础是委员长的崇高威望，而中国的官员们经常对蒋的指示阳奉阴违，因此德国顾问只愿效忠于蒋个人。1934年5月，蒋介石下令，“各处德顾问以后改属本委员长直接管辖，而受总顾问之指挥”。尽管顾问团由于蒋的支持保持了特殊地位，但佛采尔终因在中国官场积怨太深而去职。

继佛采尔之后来华出任总顾问的是塞克特（HansvonSeeckt1866一1936）将军。他是德国国防军元老，在德国享有“国防军之父”的美誉。他来华任职是蒋介石的殷切期望，也得到了德国国防部的大力支持。但塞克特任职时间很短，仅有10个月。

在出任总顾问之前，塞克特曾受蒋介石邀请，于1933年5、6月间到中国进行过一次考察。考察结束时，他呈交了一份《陆军改革建议书》，作为“贡献***与伟大领袖的友情礼物”，由此奠定了他与蒋合作的基础。塞克特建议的核心有三点内容：第一，他向蒋介石强调，中国整军的目的是建立一支“在您本人统帅下的经过正规训练的军队”，整个军事系统的大权，包括训练管理、发展、指挥调遣、人事任免等，均需集中于最高统帅的掌握之中，“今后在任何情况下，决不能再允许地方或较高军事当局有任何独自为政之举”。第二，中国必须尽快建立自己的军火工业，不断增加军火自给，否则“在未来抗日战争中防御和获胜的可能性将微乎其微”。第三，为抵抗日本侵略，应以长江中下游作为战略设防重点，并建立战略交通系统。此外，他还提出了改进中国官员与德国顾问合作关系的一些办法。蒋介石对塞克特的建议十分赞赏，认为在中国“主持建军”所需要的正是“这样一个胜任的人”。

1934年5月塞克特来华任职时，蒋介石给了他一个十分特殊的头衔“委员长委托人、总顾问”，并委以极大的权力，甚至规定当他本人不在时，塞克特具有代表他发布命令的全权。不过，塞克特运用蒋赋予的权力十分谨慎。他吸取了前任的教训，尽量不介入涉及人事关系的**问题，而集中精力于本职工作，致力于加强中国的国防能力。在短暂的任期内，塞克特为中方制定了详细的后勤供应表和一个发展军火工业的计划，将中国国防现代化与德国在远东的经济利益紧密联系在一起。在德国顾问及德国企业的帮助下，此后一段时间，中国在太原、济南、昆明、重庆、南宁及广东等地建立了新的兵工厂，并对汉阳、巩县等旧兵工厂进行了改造。应蒋介石的要求，塞克特还设计了从上海到南京间的江南国防工事，这条被称为“中国的兴登堡防线”是中国抗日国防的一项重要工程。此时，由于顾问团的军事性质已无须掩饰，塞克特在顾问团内部按军事任务的需要重新做了分工，让所有文职人员退出。

1935年3月，塞克特因健康原因离华，他的助手法肯豪森（AlexandervonFalkenhausen1878一1966）将军接替了他的职务，成为最后一任驻华军事顾问团长。法肯豪森的背景有两点特殊之处：一是他曾于1912年出任德国驻日本武官，对日本的军队及军事战略作过深入研究；二是他在政治上具有反纳粹倾向。这个背景使他很容易得到中方的信任，事实上他也一直采取积极支持中国抗战的态度。