德国的战地宪兵最早可以追溯到十六世纪的 Proffoss，后在一七四○年，腓特烈二世建立了督战马队〔Feldj?gerkorps zu Pferd〕——随即很快的又改名为“督战骑兵队〔Reitendes Feldj?gerkorps〕”，这可以说是后来德国野战宪兵的正式雏形。当时督战骑兵队的主要责任是指挥交通、传递军令和保卫王室成员。一七四一年，该部的分支之一——“督战步兵队〔Feldj?gerkorps zu Fuss〕”还参加了普法战争。
在十九世纪，督战队和国内的宪兵〔Gendarmerie〕相结合，成立了一直延续至今的“战地宪兵”〔Feldgendarmerie〕。
至一次世界大战开始时，德国陆军共有三十三个野战宪兵连〔每连有六十名士兵和士官组成〕。而到一战结束前，这个数字上升至一百一十五个。在一战的结束后，野战宪兵也随着“德皇陆军〔Das Kaisersheer〕”一起解散。
在战后的魏玛共和国国防军〔Die Reichswehr〕中没有任何的警察部队，原来军事警察在要塞地区负责的巡逻任务也由普通士兵承担。随着一九三三年NZ党掌权，德国的军事力量开始扩张，作为传统编制之一的战地宪兵也再度重生。在第三帝国时期的国防军〔Die Wehrmacht〕编制内， “战地宪兵”〔德国士兵们也把其称之为“Kettenhunde”——链狗〕
肩负着双重角色——不但只是一支组织严密的警察力量，同样也是一支接受完整步兵训练的正规军事组织。这些军警部队一般部署在陆军师或更高一级的编制中，这当中除了师直属宪兵部队外，还有一些由师部指挥的独立编制。
在柏林西南面的波茨坦设立有德军第一座现代化的军警学校，负责训练合格的战地宪兵人员，其主要课程包括：犯罪条例、综合和特殊警察技能、林业条例、渔业条例、水路条例、交通规则、工业条例、报告法、护照及身份辨别法、民俗学、急救、武器操练及教导、射击、防御技巧、犯罪警察学以及综合通信训练等等。除此之外还有防空、动物保护、打字及速记等方面的训练。
在学员进行完第一学期的测试后，他们将临时分派到警察局进行一段时期的实习。完成全部课程则需要一年时间〔其中步兵基础训练为十六个星期〕，往往有许多学员在经过重重考核之后被淘汰：例如有一期二百一十九名学员中最后只有八十九人有资格继续参加最终测试。可以说，德军的战地宪兵是一支技术性十分强的专业兵种。
随着德国占领捷克斯洛伐克和波兰之后，又有两所军警分别在布拉格和 Litzmannstadt-G?rnau 设立，同时还在柏林成立了一所技术警察学校。学员们在毕业后随野战部队活跃在德国的每一条战线上，尤其是战争后期，战地宪兵在很多时候会和前线正规部队一道参加防御和反击战。有许多人都由于表现勇敢而获得奖章和勋章。在大战末期，所有被苏军俘虏的战地宪兵几乎毫无疑问的都被就地枪决，于是许多战地宪兵在战斗前都会从本战区内“战地宪兵改造中心”得到一本假的士兵证和身份牌，上面标为普通士兵身份，而他们真正的野战宪兵证和身份牌则在战斗结束后发还。
根据国防军官方资料记载，正规的“陆军战地宪兵〔Felgendarmerie des Heeres〕”成立于一九三九年， 成员最初来自于前民警人员和符合条件的陆军士官。这支警察部队由陆军最高统帅部军需总监掌管，而他下属的一位少将军衔的野战宪兵军官则负责直接指挥宪兵部队——例如人事管理、监视表现、任务分配、交通规则发布和部队训练等方面的工作。然后少将再委任数名下属参谋军官，在前线集团军指挥部掌管配属给该集团军的野战宪兵营。这些参谋军官的工作责任是维持秩序和纪律，在大规模部队机动时的交通指挥和保障交通路线等。
在宪兵营之下的分别是隶属于各师或军的宪兵排〔Felgendarmerie Truppen〕，隶属于各野战或地方司令部的宪兵队〔Felgendarmerie Gruppe〕以及执行临时特殊支援任务的独立宪兵班。
一个隶属与步兵师或装甲师的野战宪兵排标准编制如下：三名军官，四十一名士官，二十名士兵，十七辆吉普车，四辆卡车，六辆摩托车，四辆拖斗摩托车。
战地宪兵营的主要装备和排大同小异：摩托车，安置ＭＧ３４机枪的拖斗摩托车，吉普车，野战卡车〔例如三吨欧宝 Blitz 卡车〕和少量用于运输的装甲车辆。除此之外，每个营还额外辖有一个支援队，包括厨师、书记员、一个皮匠和军械士。单兵装备主要以轻武器为主，例如军官配备瓦尔特ＰＰ警用手枪，ＰＰＫ，军官用手枪，士官配备冲锋枪，普通士兵则配备卢格Ｐ０８和瓦尔特Ｐ３８手枪。也有少量Ｋａｒ９８步枪装备宪兵营，但是数量不多。ＭＧ３４和４２型机关枪则一般作为车载武器，用于守卫交通要道口等重要地段。
战地宪兵在战时的主要职责是：
一、指挥交通，
二、维持部队的秩序和纪律，
三、搜索、缴械、集中和看护战俘及落伍士兵。
四、在占领区内监督当地平民，
五、检查离队和运输中士兵的证件，
六、在占领区内进行街区巡逻，
七、搜捕逃兵，
八、防止敌人空投传单的传布，
九、在撤退时指挥疏散者和难民的秩序，
十、守卫部队边域和清剿游击队。
他们还负责守卫交通要道、检查站和安全区，并且在必要情况下，有权力得到任何民间及军事人员和设备的协助。除此之外，战地宪兵还可以指挥不论兵种的任何和他平级或下级的德国军人。
而在占领区内，战地宪兵的职责如下：
一、指挥交通
二、维持港口和机场的秩序
三、管理和控制侨民
四、监管战区内的狩猎、捕鱼、商业、农业和工业等方面的条例秩序
五、地区内巡逻
当战地宪兵部队和其上属师行军时，其职责如下：
一、设立临时城镇中心和军队落伍士兵集中站
二、剿灭敌游兵散勇和游击队
三、看守战利品
四、确保缴收所有平民私藏手中的武器
五、组织平民劳力工作
六、竖立军用和民用标识
在德国本土时，战地宪兵主要负责：
一、维持部队纪律
二、搜捕逃脱者
三、指挥军事交通
四、集中难民
五、指挥和监视战俘撤退或转移
在战争结束后，许多被西方盟军俘虏的战地宪兵被重新用于军警工作。一名美军第一○一空降师的军官回忆，当时他们曾指派俘虏的战地宪兵去保卫负责聚集战俘的德国军官的安全。另一份资料记载，位于石勒苏益格－菏尔斯泰因的英军第八军甚至组织了一个团的德军战地宪兵，去维持在Meldorf的缴械中心的秩序和纪律。
这个团下辖四个营和一个团部营，全部由志愿者组成，其中还包括了一些前警察人员。他们戴着一条绣有“Wehrmactordnungstruppe〔国防军秩序部队〕”和“Felgendarmerie〔战地宪兵〕”字样的臂章来表明自己的身份。这些宪兵全部配有武器，而军饷则是额外供应的口粮标。
战地宪兵的制服的德文正式制式名为 Dienstanzug für Felgendarmerie .
基本为陆军标准制服式样〔Ｍ３６、Ｍ４３或Ｍ４４式制服等，空军战地宪兵则身着本兵种的标准制服〕，加以特殊的标记区别。具体如下：
所有兵种的战地宪兵部队士兵和中尉以下军官制服的左臂上方均绣有“警察鹰徽”臂章〔Polizeiadler〕，图案为一圈椭圆形的橡树束环绕着一只踩在NZ党徽上的警察式样老鹰。军官和士兵的臂章式样一样，但是前者是以银线绣在田野灰色底布上，而后者是以橘红色线绣在田野灰色底布上，并且NZ党徽由黑色线绣成。
战地宪兵在左袖袖口还配有一条宽为三厘米的褐色袖标，中间以白色机织羊毛线绣有歌特字体“Felgendarmerie”字样。而军官的袖标是以银白色线绣字。
宪兵身上最引人注目的标志应该算是脖子上的金属挂牌〔Ringkragen〕了，这也是德军官兵把他们称为“链狗”的来由。每一个宪兵在值勤时规定都必须佩带该挂牌，以表示自己“执法者”的特殊身份。挂牌由轻质金属压制而成，背部缝有一块铁灰色布料，以减少磨损，挂链由四十二块金属链构成，挂牌本身和挂链表面均镀有暗色的马特银，两段的圆钉和鹰徽涂有发光漆。下方的卷轴涂有暗灰色漆，“Feldgendarmerie”字样则同样涂有夜光漆。
党卫军战地宪兵〔Waffen SS-Feldgendarmerie〕
党卫军中的战地宪兵多为服役四年或以上的前民警人员，每个党卫军作战师都有其自己的独立战地宪兵队，但是在编制上则比陆军要小一点：一个党卫军战地宪兵排拥有一名军官、四名士官和三十六名士兵，装备十一辆拖斗式摩托车和一辆水陆两用吉普车。他们的职责和陆军的正规战地宪兵队一样。而由于党卫军宪兵队帽子上阴森森的骷髅帽徽和冷酷无情的执法态度，他们又被士兵们称作为“Kopf J?ger〔“猎头者”〕”。
党卫军战地宪兵平时身着党卫军野战部队的正规制服，和陆军不同的是最初袖子上没有战地宪兵的鹰徽臂章。而是佩带原来的党卫军式样鹰徽，从一九四四年开始，随着大量的前秩序警察〔Ordnungspolizei ——即正规制服警察〕加入党卫军，党卫军宪兵部队开始佩带专有的警察鹰徽臂章，和陆军式样不同的是——老鹰图案是以银线绣在一块钻石形的布块上。此外在最开始时，党卫军野战宪兵均带着为陆军式样的褐色袖标，但是从一九四二年八月一日后开始统一佩带党卫军专有的银灰－黑色袖标，中间以银色羊毛线分别绣有北欧古字体“SS”和正体“Feldgendarmerie”字样。
最初该袖标是规定佩带在党卫军各师或团名称袖标下，而从一九四三年八月开始，同时佩带两条袖标的作法被禁止。后来在一九四四年十一月十五日，着装制度进行了最后一次改动：SS-Feldgendarmerie 袖标被正式废除， 所以党卫军宪兵人员只得佩带师袖标，而警察鹰徽臂章又一次被党卫军鹰徽臂章代替。
空军战地宪兵队〔Feldgendarmerie der Luftwaffe〕
德国空军中仅有“赫尔曼?戈林”空降装甲军和伞兵师辖有战地宪兵队——每个师下辖一个宪兵排。其中“赫尔曼?戈林”装甲军拥有空军中最大的战地警察部队，其大部分军官均为前普鲁士州警察和机动警察，士官和士兵则为现役军人和新兵。他们的职责和陆军以及党卫军宪兵队一样，除此之外，空军宪兵队还负责协助前线军法系统的运作。
在德军一九四五年从波兰撤退期间，“赫尔曼?戈林”装甲师的“赫尔曼?戈林”第一○○○机械化战地宪兵队的特遣分队还执行了一样极其危险的任务：穿越苏军战线为被包围的“赫尔曼?戈林”部队运送来十分珍贵的燃料。
海军战地宪兵队
督战队〔Feldj?gerkorps〕
大战时期的德军督战队的前身可以追溯到一九三三年，当年六月三十日，冲锋队〔Sturmabteilungen〕旗下成立了一支名叫“秩序警察督战队〔Feldj?gerkorps als Ordnungspolizei〕”的队伍，负责维持冲锋队队员的纪律，然而这支秩序部队在一九三六年随着冲锋队大清洗而不复存在，其剩下成员大部分加入了正规的警察部队。后来到了一九四三年夏天，东线的局势明显朝着不利于德军的方向转变，为了维持前线守军的纪律和鼓舞士气，国防军最高统帅部决定在野战部队中成立专门的督战队，一九四四年一月九日，继承十八世纪荣誉称号的“督战队〔Feldj?gerkorps〕”正式成立，第一批共三个督战团，每团五个分队。督战队的成员均是拥有丰富野战经验的国防军官兵，并且每人至少获得过二级铁十字勋章。成立之初的督战队立即就被送往距离战线二十公里的后方地带巡逻。他们越过任何的上级野战编制，由国防军最高统帅部直接指挥，赋予的任务是制止任何敌前逃阵或是混乱的情况发生，例如抓获逃兵和逃跑的战俘，逮捕抗令军人，抢劫和装病者甚至是一切不能给出离开岗位合理理由的德军官兵。除此之外，他们还可以将逃兵组成特别队伍或是将后方一切可以作战的军人送往前线。他们甚至拥有在平民中抓壮丁和随时调用指挥任何车辆的权力。督战队的指挥官们还有权组织战地军事法庭，就地处决任何“被告”！之所以赋予其如此大的权力显然是因为国防军最高统帅部希望每一个德国军人都可以战至最后一刻。
秘密战地警察〔Geheime Feldpolizei〕
秘密战地警察为前线的便衣军警，于一九三九年中在凯特尔的授命下成立，人员来自国内的刑警部队，主要负责保卫军事要员和协助国家保安机构人员〔例如盖世太保〕进行前线反间谍工作。除此之外他们还承担审问敌军战俘、保卫前线通讯网络和铁路枢纽的任务，所以德军也把他们称为“前线的盖世太保”。