1848年5月25日，小毛奇出生于柏林。受其叔父影响，小毛奇自幼就对军事很感兴趣，一到年龄便应征入伍。由于叔父的指导与提携，小毛奇在德军官运亨通，1882年34岁时已担任叔父的副官，1891年始任威廉二世的待从武官。从1899年起，小毛奇开始下部队，先后任旅长、师长，1903年开始任陆军军需总监，1906年接替施利芬任总参谋长。
虽然小毛奇仕途顺利，但由于他在第一次世界大战中的败绩，晚年生活却非常凄凉。他一生的荣辱变迁与他生活的时代背景有密切关系。
1870年，普鲁士统一德国，德国陆军声威大振，获得了常胜之师的美名。但威廉二世继位以后满足于国家一片歌舞升平的景象，更得意于德国陆军的建设成就，开始放松军队建设。他不喜欢真正有能力有作为的军人，把这些人冷落一旁，而致力于建设一支专为赏心悦目的形式主义的军队，为此任用了一批皇亲贵族充当高级军官。
富勒在《西洋世界军事史》中说：“这些银样蜡枪头的将军们对于战争可以说是一无所知，小毛奇正是这些活宝中的一个。”这样说可能有些尖刻，但部分地反映了事实。小毛奇没有进过高级军事学校，服役过程中大部分时间都在充当他叔父和皇帝的副官，既缺乏军事理论修养，也没有军事实践经历。