行政复议申请启动后申请人可以撤回申请。
我国法律制度中并没有规定哪些行政复议申请不允许撤回，事实上，所有的行政复议申请都能撤回，但撤回行政复议申请有严格的条件限制，比如撤回申请是当事人自愿的，需要在行政复议机关作出行政复议决定之前申请撤回，社会申请要经过行政复议机关的批准。
依据我国相关法律的规定， 行政复议决定作出前，申请人要求撤回行政复议申请的，经说明理由，可以撤回；撤回行政复议申请的，行政复议终止。
行政复议机关加重了申请人责任应怎样应对：
1、首先需要明确一点，根据《行政复议法实施条例》的这一规定，行政复议机关是无权加重处罚。另外，关于复议不加罚的问题：目前虽然没有像《刑事诉讼法》有“上诉不回刑”的明确、统一的规定，但在各主管机关的复函或解释中，有相似的规定，比如《国家环境保护总局关于行政复议机关能否加重对申请人处罚问题的函》中有说到：“根据《行政复议法》的立法宗旨，并参照《刑事诉讼法》、最高人民法院关于《行政诉讼法》的有关司法解释规定，行政复议机关在对被申请人作出的行政处罚或者其他具体行政行为进行审查时，不得增加处罚种类或加重对申请人的处罚。”
2、公安部《关于执行<治安管理处罚条例>若干问题的解释》中对于上级公安机关复议案件的裁决问题作了如下规定：“上一级公安机关在接到申诉后，经过审理，按照下列情形，分别处理：
(一)原裁决认定事实和适用法律正确、处罚适当的，维持原裁决；
(二)原裁决认定事实没有错误，但适用法律有错误或者处罚幅度明显失当的，可以变更原裁决；
(三)原裁决事实不清楚或证据不足的，在查清事实或补足证据后，维持、变更或者撤销原裁决。
法律依据
《中华人民共和国行政复议法》
第二十五条 行政复议决定作出前，申请人要求撤回行政复议申请的，经说明理由，可以撤回；撤回行政复议申请的，行政复议终止。
