纳粹党上台之后，希姆莱出任慕尼黑警察总监，并受命在全国各邦组建政治警察。

1934年4月1日，希特勒发布命令，将各邦内政部与帝国内政部合并，把保安警察。

治安警察和秘密警察全部划归希姆莱领导。

1934年4月20日，希姆莱任普鲁士邦国家秘密警察（即盖世太保）副首脑。

同年6月30日党卫军全力协助希特勒清除了罗姆的冲锋队势力后，希姆莱开始全面控制全国的警察武装和党卫军，直至第三帝国垮台。

1936年6月17日，升任内务部国务秘书、全国警察首脑。

希姆莱是纳粹德国制造发动入侵波兰的借口一格莱维茨电台事件的策划者。

他直接授命党卫军特工人员阿尔弗雷德&iddot;约瑙克司具体实施这项任务。

约瑙克司领到150套波兰军队的制服和若干波军使用的武器，随后命令一批刚刚从集中营里领出的死回穿上波军制服，配备波军装备，并把他们带进德波边界德国一侧的格雷维茨广播电台。

当一名会讲波兰语的德国特务假冒波兰军队的口气，发表了一篇将同德国开战的广播后，纳粹医生按既定计划毒杀了这些身着波兰军装的死囚，造成波兰军队进攻德国电台的假象，从而为纳粹德国进攻波兰制造借口。

可见，希姆莱也是挑起第二次世界大战的罪魁祸首之一。

希姆莱是纳粹德国强制推行&ldo;日尔曼化&rdo;的最高负责人。

纳粹德国侵占波兰之后数日，希特勒任命希姆莱去负责建立一个新机构‐‐加强德意志民族委员会，并担任其最高负责人。

其任务是先把犹太人和波兰人从波兰被直接并人德国的那几个省驱除出去。

1939年10月9日，亦即希姆莱就任新职的第三天，他就命令已并人第三帝国各省中的大多数犹太人和波兰人立即迁往总督辖区。

在此后一年时间内，已有120万波兰人和30万犹太人被驱出家园，他们中的不少人在迁移过程中已经死去。

1942年6月12日，希姆莱亲自批准了帝国中央保安总局制定的旨在奴役斯拉夫各民族的《东方总计划》，其中要求把捷克人的50％、乌克兰人的65％、白俄罗斯人的75％和波兰人的80‐‐85％强行迁移到西伯利亚，以便为德国移民腾出生存空间。

希姆莱对待犹太人的凶残达到骇人听闻的地步：当他还是一个无名鼠辈之时，就制定了一个&ldo;保卫德国血统和荣誉&rdo;的五点计划，对迫害犹太人的设想可谓淋漓尽致：犹太人不能成为德国公民，禁止犹太人同德国人结婚，禁止德国人同犹太人私通，犹太人不得雇佣45岁以下的德国妇女从事家务劳动，犹太人不得悬挂和触摸德国国旗。

希姆莱认为世界上一切使他痛恨的事都是犹太人干的，因此要对犹太人实施无情的报复，直至灭绝这一人种。

希姆莱是在第三帝国范围内全面实施&ldo;对犹太人问题最后解决&rdo;行动的总体策划和最高层次的组织者；他是组织特别行动队大规模杀害苏联、东欧各国犹太人的最高责任人。

他在1941年5月亲自对即将杀人行凶的特别行动队员们训话，唆使他们对犹太人大开杀戒；他于1941年8月下旬视察明斯克某刑场后下达的指示，直接促成了毒气车的出现。

1941‐1943年，特别行动队的受害者高达150万人以上；他也是建立和推广集中营、灭绝营制度，力图灭绝犹太民族、吉普赛民族的最高责任人；他两次视察奥斯维辛集中营，导致该营的灭绝设施实现了工业化和现代化，杀人能力提高了10倍以上。

在各种集中营、灭绝营内被杀害的犹太人、吉普赛人、苏军战俘、反法西斯主义者以及抵抗战士多达近1000万人。

他也是纳粹德国医学界对&ldo;劣等种族&rdo;和盟国战俘实行惨绝人伦的人体试验的最高组织者和主持人。

他创建的遗传研究所，是各个集中营内所有活人试验的发源地，在上述试验中被害死、致残或造成终身难愈疾病、酿成终身不育的受害者数以万计。

他的罪责还包括：在东欧、南欧强制推行殖民一日尔曼化政策，建立秘密警察全面监视制度，有组织、有计划地杀害波兰。

捷克等国知识分子，大肆处决人质等。

自希姆莱掌管统帅党卫军和警察的大权以来，被他下令杀害及他的下属自行杀害的和平居民和战俘，据最保守的统计也不低于1100万人，在世界史上达到空前的水平。

1943年8月25日，希姆莱兼任帝国内政部长和帝国行政管理机构全权总代表。

1944年7月21日，兼任后备军司令和军备部部长。

1945年春天，纳粹德国败局已定。

希姆莱竭力组织民族突击队，大力加强武装党卫军，企图阻止德国的军事失败。

同时，他与国际犹太人组织的代表谈判关于释放在德国权力管辖范围之内的犹太人问题。

他还曾与英美政府的代表单独进行秘密谈判，允诺投降，妄图同西方合作，以便在东线继续进行对苏战争。

1945年4月底，希特勒对他的一系列我行我素的行径到了不能容忍的地步，乃下令解除希姆莱的一切职务，并将其开除出党。

希姆莱本想在邓尼茨的新政府中谋得要职，然而邓尼茨对他毫无兴趣，断然将他拒之门外。

纳粹德国宣布投降后，希姆莱不得不从德国北部的弗伦斯堡出逃，南下至吕纳堡时为英军俘获，身份暴露。

1945年5月23日，在吕纳堡英军拘留所内畏罪服毒自杀。

这种毒药是他下令纳粹医生借助数百名集中营囚犯的生命为代价研制而成的，毒性极强且生效迅速，谁曾想最后竟报应到自己身上。

因而，尽管英国军医尽力抢救，也未能令他再次站立起来，登上纽伦堡法庭的被告席。