张勋复辟的消息传到天津之后，段祺瑞立刻召集他的学生傅良佐及其亲信段芝贵等人开会，决定立刻起兵讨逆。经过一番谋划之后，段祺瑞决定联络驻马场的第八师师长李长泰、湖南督军谭延闿、湖北督军王占元、直隶总督曹锟等人讨逆张勋。
段祺瑞本是支持张勋复辟的，待张勋复辟几天后又出尔反尔，起兵讨伐，这其中的道理并不复杂，其实，这就是一场利用和被利用的智谋博弈。
张勋本想利用黎元洪赶走段祺瑞，然后再解散国会，驱逐黎元洪，使溥仪顺利地登位复辟。可是，张勋没有想到，段祺瑞会来一招“螳螂捕蝉，黄雀在后”。段祺瑞以退为进，先是利用张勋解散国会，逼走黎元洪，然后再起兵讨伐张勋。这样，他既可以名正言顺地重掌政府大权，还可以赢得再造共和的美誉，可以说是一举两得，名利双收。在复辟一事中，张勋实实在在地被老奸巨猾的段祺瑞玩了一把。
在得知各省督军反对复辟后，张勋非常生气，大骂他们不仁义。随后，各路讨逆的军队开到了北京，准备讨伐张勋。
张勋有50营的辫子军，每营大约有500人，但这次上京只带了10营，其余的都在徐州，由张文生管理。张勋上京前，叮嘱张文生：“我如果发电报，上面写速运花40盆，就立刻调40营兵力开往北京。”等段祺瑞宣布讨逆的时候，张勋慌忙给张文生发电报，暗示张文生速带40营辫子军北上支援。可张文生呢，却让人从徐州带了40盆花给张勋。
张勋走投无路，只好自请开缺，愤愤不平地发了一个通电：“民国以来，战争迭起，国困人穷，这都是办共和给闹的，我只是顺应天命人意，还政大清，欲行君主立宪政体，乃是诚心诚意，不为个人谋利益，所行吾道不孤，凡我同各省督军，多与其谋，东海徐世昌，河间冯国璋，尤深赞许，信使往还，都有证据证明。”
看到电报后，代理总统冯国璋下令将张勋的职位一概撸掉，打成罪人。段祺瑞的讨逆军更是不依不饶，非要张勋解除武装，就地投降。
得知消息后，张勋火冒三丈。很多遗老劝张勋不要再做无谓的抵抗，但张勋对于劝说没有任何反应。众遗老束手无策，只好纷纷逃离了京城。无奈之下，张勋又发出一纸电报，痛斥北洋系的同僚背信弃义，出卖朋友。但段祺瑞等人并没有因为张勋的电报停止讨逆，而且下令总攻张勋。
战斗开始后，大部分的辫子军被击溃并自愿放下武器，割去了辫子，接受改编或者遣散。唯独张勋私宅一带的辫子军顽强抵抗，战斗进行得非常激烈。讨逆军向段祺瑞请示用炮轰张勋的住宅，段祺瑞表示同意，但要求只能用一颗实弹攻击，其他的只能用虚炮恐吓。当天晚上，讨逆军一炮击中张勋的住宅，宅院内顿时火光冲天，哭号四起，辫子军纷纷从宅中逃离或缴械，只有张勋依然不肯屈服。直到京师警察总监吴炳湘联系了荷兰使馆派出汽车去接他，张勋才逃离了住宅。讨逆随即宣告结束。
张勋复辟到失败仅仅12天，舆论几乎一边倒地称之为倒行逆施。这时，一位复辟遗老站出来为张勋说了句公道话，这个人就是洪宪帝制的拥护者阮忠枢。这位袁世凯曾经的手下红人力排众议，称张勋此番举动虽然近于粗率，却不失为轰轰烈烈之忠直好汉。
张勋的性格中，最突出的特点是传统、实心眼，有些憨厚，也很暴躁，这些特点结合在一个武人身上，那就几乎就是顽固不化了。因为传统，张勋的家乡观念极强，他对家乡父老多有照顾。张勋老家江西奉新赤田村的人都沾了不少的光，每家都在张勋的资助下造了大瓦房，生活物资也是缺啥给啥。江西人在外地做生意需要建会馆的时候，但凡找到张勋，他都会慷慨解囊。
事实上，张勋复辟也算得上是一种忠义的表现，这种中华民族的传统思想，在反复革命而使得道德沦丧的民国社会中，虽被嘲弄，却也显得“弥足珍贵”。因此，对于张勋复辟，只可笑其愚，却不可笑其忠。
1918年10月10日，徐世昌就任民国大总统后，下令赦免张勋，并发还了财产。晚年的张勋远离政治，转道经商，投资金融界，获得了丰厚的回报。此时的张勋已是心境淡然、与世无争的皓首一翁。当有人问起他当年的复辟伟业时，他已不再有当年的夸夸其谈，或是淡淡数句，或是沉默不言。毕竟，属于他的时代已经过去了，而且越去越远，再也不会回来了。
1923年9月12日，张勋在天津病故，终年70岁，获前清废帝溥仪赐谥号“忠武”。次年8月，张勋棺木启运回乡，并于当年11月底葬于奉新县赤田乡陶仙岭下。
阁中帝子今何在，栏外长江空际流。袁世凯复辟失败，张勋复辟也失败，这说明在民国之后，假皇帝当不得，真皇帝也当不得。这正应了梁启超的那句话：“帝位如同墙上泥塑木偶的菩萨，一旦被人扔进了猪圈，就是洗干净再重新供奉，那也早已失去了其神圣性。”由此看来，张勋之败，是历史的必然。“)