Le 30 juin 1934 se déroule la sanglante purge de la Nuit des longs couteaux au cours de laquelle Röhm, arrêté par Hitler lui-même, est abattu par deux officiers SS dans la cellule de la prison de Munich où il a été incarcéré. En 1934, la crise qui minait le parti nazi éclate. Ernst Röhm, ami d'Hitler et chef des 2 500 000 membres des Sections d’assaut, déclare à qui veut l’entendre qu’il faut une seconde révolution nazie, qu’il faut éliminer ploutocrates et militaires conservateurs.

Le chef des S.A. souhaitait que la formation qu'il dirigeait, et dont l'emploi était mal défini, prît en main le réarmement et la constitution d'une armée populaire nationale-socialiste. Ces idées qui se propageaient dans les milieux nationaux-socialistes en 1933 et 1934 inquiétaient les milieux capitalistes et les dirigeants de la Reichswehr. La Reichswehr et les industriels qui soutiennent Hitler commencent à trouver les troupes de Röhm - qui leur furent pourtant bien utiles dans les batailles de rues avec les militants communistes - un peu trop bruyantes. Après avoir hésité pendant des semaines, Hitler se résolut à trancher. Le 30 juin, sur son ordre, les SS de Heydrich et Himmler arrêtent et exécutent les principaux dirigeants des SA, dont Röhm. La contradiction entre le discours radical du parti nazi, qui avait attiré à lui des larges couches de chômeurs, et la réalité du pouvoir nazi, est enfin réglée. 

Hitler, accordant satisfaction aux chefs de l'armée et aux dirigeants de l'économie, assouvissait en même temps des vengeances anciennes (en se débarrassant de toute une série d'adversaires: exécution de Kurt von Schleicher, de Gustav von Kahr) et intimidait von Papen (dont plusieurs collaborateurs furent assassinés). 

Quelques semaines plus tard (2 août 1934) mourait Hindenburg. Hitler ajouta alors à ses fonctions de chancelier celles de président du Reich. Il devenait du même coup chef de la Reichswehr qui, désormais, prêtera serment non «au peuple et à la patrie», mais, personnellement, au Führer Adolf Hitler. Ces mesures sont sanctionnées par un plébiscite, désormais substitué à toute autre consultation populaire et remarquablement «préparé», le 19 août 1934. Les changements sont approuvés à une très forte majorité (38,4 millions de «oui» sur 45,5 millions d'électeurs inscrits). Le 30 juin 1934 marque en outre le déclin des S.A. et l'ascension d'une autre formation hitlérienne, les Schutz-Staffeln, ou S.S., jusqu'alors subordonnée aux S.A. et désormais indépendante, placée sous la direction de Heinrich Himmler.Enfin, la consolidation du régime s'accompagne à la fois du développement de l'appareil policier (importance accrue de la Geheime Staatspolizei, ou Gestapo) et d'une mise en tutelle de la vie culturelle et du système d'éducation.

Ces mesures, ainsi que les persécutions dirigées contre les antifascistes, ont contraint, dès les premiers mois du nouveau régime, de très nombreux savants et intellectuels (Einstein, Thomas et Heinrich Mann, Bertolt Brecht) à prendre le chemin de l'exil. Cette Nuit des longs couteaux fera environ deux cents victimes, chefs de la SA et personnalités politiques diverses.