Malgré le morcellement dont nous avons parlé, l'empire se releva. Autorisés par le pape, les princes-électeurs procédèrent à une élection en 1273. En effet, le pape avait besoin d'un empereur qui fît contrepoids à la puissance du roi de France, devenue plus redoutable que ne l'avait été celle des Hohenstaufen. L'élu fut le comte Rodolphe de Habsbourg. Il était de petite noblesse et disposait d'une puissance et de moyens très inférieurs à ceux des princes de l'empire. Les Habsbourg venaient d'Alsace et du Brisgau. Durant le Xe siècle, ils avaient peu à peu étendu leur domaine dans la Suisse actuelle. En 1020, un membre de la famille, l'évêque Werner de Strasbourg, construisit le château de Habsbourg en Argovie. Le roi Rodolphe avait été un partisan fidèle de Frédéric II; il était parvenu, par des moyens discutables, autant que par des moyens légaux et surtout grâce à l'héritage des Kybourg qui lui était échu, à étendre sa domination sur la plus grande partie de la Suisse actuelle. En plus de son patrimoine d'Alsace et d'Argovie, il possédait des droits comtaux dans le Sundgau, l'Argovie, la Thurgovie, le territoire zurichois; enfin, il remporta un succès inappréciable lorsque, dans les premières années de son règne, il soumit la Bohême. Pendant longtemps, la Bohême avait été un membre peu fidèle de l'empire; au milieu du XIIe siècle, elle fut érigée en royaume. De 1253 à 1278, elle eut en Ottokar Il un souverain de grand style. Il ne chercha rien moins qu'à utiliser la faiblesse de l'empire en créant un grand Etat à l'est. Sans aucun égard pour les droits de l'empire sur l'Autriche, il s'empara de la Styrie, de la Carinthie et de la Carniole, laissées vacantes depuis la mort du dernier Babenberg en 1246. Il prit part aux guerres menées contre les Prussiens et les Lituaniens et constitua un grand royaume qui s'étendait de l'Erzgebirge à l'Adriatique; il nourrissait en outre le projet d'annexer la Lituanie. Mais il n'était pas un vulgaire pilleur de terres; il fit son possible pour répandre la civilisation en attirant systématiquement des Allemands en Bohême, mit de l'ordre dans le domaine de la justice, favorisa les arts, protégea la bourgeoisie et abaissa la noblesse. On peut se demander à quelle hauteur le royaume tchèque se serait élevé si Ottokar avait pu poursuivre son oeuvre sans entrave.

Rodolphe trouva en Ottokar son seul adversaire redoutable qui, déçu de n'avoir pas été élu roi lui-même par les princes-électeurs, comme il l'avait espéré, refusait absolument de se considérer comme le vassal du roi d'Allemagne. Le Tribunal d'empire le condamna, mais il ne voulut pas se soumettre. Rodolphe lui déclara la guerre. Il tomba vaincu sur le champ de bataille de Marchegg, en 1278; ainsi prit fin son grand rêve de gloire. Rodolphe mit alors la main sur l'héritage des Babenberg, Autriche, Styrie, Carinthie et Carniole, qu'il déclara fiefs d'empire mais qu'il n'incorpora pas moins dans le patrimoine des Habsbourg en les cédant à ses fils Rodolphe et Albert, avec le titre de ducs. Cette démarche devait avoir des conséquences considérables pour l'histoire de l'Europe. Rodolphe, en la faisant, posa les fondements de la puissance des Habsbourg et de la future grande monarchie autrichienne. La domination habsbourgeoise se développa avec puissance; son ancien centre de gravité qui se trouvait naguère en Souabe et en Suisse se déplaça en faveur de l'Autriche, dont Vienne devint le coeur. La situation de Rodolphe par rapport à l'empire fut considérablement améliorée par ses nombreuses acquisitions territoriales. Il était devenu le plus puissant des princes d'empire, ce qui assura à la couronne royale un prestige inattendu. Mais la nature de son pouvoir était très différente de celle des premiers empereurs. Il fut le premier roi allemand puissant dans ses terres, et désormais ses successeurs n'eurent d'importance que pour autant qu'ils surent se faire respecter dans leur propre domaine. D'où les efforts qu'ils déployaient pour atteindre à ce résultat, tandis que les anciens empereurs avaient toujours pour but d'imposer leur autorité aux princes d'empire et tenaient assez peu à leur patrimoine.

Rodolphe ne parvint pas à remettre en honneur la politique impériale en Italie. Il n'alla pas même à Rome pour s'y faire couronner, quoique la couronne d'empereur lui eût été promise. Cependant, s'il ne put rendre à l'Empire d'Allemagne son ancien prestige, il n'abandonna pas tous les droits impériaux en Italie; il renonça pourtant et pour toujours à la Romagne et se réconcilia avec la maison de Naples-Anjou. Il ne put se dissimuler que la Bourgogne et la Lorraine étaient en train d'échapper à l'empire, sans qu'il lui fût possible d'empêcher le désastre. Sa politique intérieure lui valut, en revanche, une grande considération. Dans toute la mesure du possible, il favorisa la paix dans le pays et réduisit en partie les chevaliers-pillards. Mais il mena une politique fiscale si dure, dans ses propres Etats et ailleurs encore, qu'il provoqua un grave mécontentement, surtout dans les villes, qui étaient le plus lourdement frappées. C'est ce qui causa, après sa mort, le déclin de sa maison. Les électeurs lui donnèrent pour successeur, non son fils Albert, mais un comte insignifiant, Adolphe de Nassau (1291-1298); ils voulaient un roi faible. Par surcroît, Albert n'était pas aimé, à cause de son caractère sombre et peu aimable. Enfin, Wenzel, le fils d'Ottokar Il, travaillait contre lui. Mais, au bout de quelques années, le parti d'Albert augmenta, parce qu'Adolphe exerçait le pouvoir avec une rigueur provocante. Ce dernier fut vaincu et tué dans la bataille de Göltheim (1298) et Albert accéda au trône (1298-1308). Il continua l'oeuvre commencée par son père, c'est-à-dire qu'il annexa des terres sans scrupule et abusa de la fiscalité. Pourtant, il régna avec mesure et équité, mais sans grand succès. En 1308, il fut assassiné par son neveu Jean qui assouvissait de la sorte une vengeance personnelle.

La situation de 1291 se présenta à nouveau. Une fois de plus, les calculs égoïstes des électeurs les induisirent à écarter les Habsbourg du trône, en faveur d'un prince tout à fait nul, Henri de Luxembourg (1308-1313). Par son origine et son éducation, il était un Français plus qu'un Allemand. Le trait dominant de son caractère était la cupidité. A l'encontre de ses prédécesseurs habsbourgeois, il s'intéressait peu aux problèmes internes de l'Allemagne, mais, en revanche, il chercha à redonner de l'éclat à l'empire. En Italie, les perspectives lui parurent favorables, car les Gibelins ne souhaitaient rien davantage que la résurrection de la domination allemande. Dante rêvait d'un nouvel Empire romain, héritier légitime de l'ancien, qui serait indépendant de l'autorité pontificale et gouverné par le peuple romain, auquel Dieu avait conféré le droit de domination universelle. En 1310, Henri VII se rendit en Italie à la tête d'une armée, il se fit couronner roi des Lombards; les villes gibelines lui rendirent hommage. Mais le parti welfe, et surtout Florence, ne voulut rien savoir de lui, et le roi Robert, de Naples, lui déclara la guerre. Malgré tout, Henri put se faire couronner à Rome, à Saint-Jean de Latran, Saint-Pierre étant alors aux mains des Napolitains; mais comme il allait partir pour combattre dans l'Italie méridionale, il mourut. Il est peu probable que sa politique impériale eût rencontré du succès en Italie où, depuis le temps des Hohenstaufen, rien d'essentiel n'avait changé dans les sentiments hostiles qu'on éprouvait à l'égard de l'empire. Cependant, la chance souriait à la famille des Luxembourg. En 1310, la noblesse tchèque avait élu roi le fils d'Henri VII, Jean, qui venait d'épouser la dernière héritière des Premyslides. Ainsi, les Luxembourg devinrent puissants en Bohême, ce qui leur permit de jouer dans l'empire un rôle beaucoup plus important.