Sous son pontificat est signé le Concordat de Worms (1122). Ce furent les princes qui agirent en sorte qu'enfin la paix fût conclue entre le pape et l'empereur (Henri V). Au moment où, sous les murs de Mayence, les armées impériales et les rebelles venus de Saxe allaient en découdre, l'archevêque de Trèves réunit les membres de l'aristocratie qui enjoignirent à l'empereur de se soumettre au pape, sous réserve que celui-ci préservât « l'honneur du royaume ». La diète de Wurzbourg confirma cette décision (29 septembre 1121). Il fallut encore un an de difficiles négociations pour que, le 23 septembre 1122, fût conclu le concordat, dit de Worms parce qu'il fut signé dans cette ville. L’empereur renonçait à l'investiture par la crosse et l'anneau ; il reconnaissait que les évêques devaient être élus et consacrés librement et s'engageait à restituer tous les biens que son père et lui-même avaient pris à l'Église. Pour sa part, Calixte Il, qui avait succédé à Gélase II, permettait que dans le royaume d'Allemagne Henri V assistât aux élections, étant entendu qu'il n'userait ni de la simonie ni de la violence pour que le vote fût favorable à son candidat et qu'en cas d'élection contestée, il appuierait celui qu'aurait choisi l'archevêque du lieu ; enfin, l'investiture temporelle par la remise du sceptre interviendrait en Allemagne avant le sacre, six mois au plus tard après le sacre en Bourgogne et en Italie ; l'évêque investi de la sorte était tenu de s'acquitter des obligations que lui imposait la possession des biens concédés par l'empereur. Cet accord qui, très probablement, dans l'esprit de ses signataires, devait avoir un caractère définitif même si le texte ne le disait pas expressément, mettait fin à la querelle qui depuis près d'un demi-siècle opposait l'empire à la papauté. Que celle-ci fût sortie victorieuse de ce rude et long combat, personne assurément ne pouvait en douter. L’autorité morale du Saint-Siège avait été considérablement renforcée. Le concile convoqué par Calixte avant même que le concordat eût été ratifié rassembla plus de deux cents évêques au Latran en 1123, ce qui lui valut d'être qualifié d'oecuménique. Le pape y était reconnu à l'évidence comme l'initiateur de la réforme ; responsable des succès remportés par cette réforme dans toute la chrétienté, il avait le droit de punir quiconque en gênait le progrès. Les appuis qu'il avait trouvés dans le clergé régulier comme dans le clergé séculier tout au long de la querelle des investitures montraient que la primauté de juridiction n'était pas une prétention chimérique, mais qu'elle était acceptée largement.

Sans doute, le programme défini par Grégoire VII dans les Dictatus n'était pas encore explicitement contenu dans les conventions qui réglaient les rapports entre les pouvoirs temporel et spirituel ; l'usage de formules floues est de règle en diplomatie. Il restait donc, momentanément mis en réserve, bien des sujets de discorde et les risques de voir la guerre reprendre étaient grands. Mais que la papauté, qui pouvait rassembler dans son palais des bataillons de prélats, était différente de celle qui, à Sutri en 1046, avait senti la poigne de l'empereur ! Ce qui alors passait pour un triomphe n'avait été qu'une méprise tragique : en plaçant sur le trône de Pierre des hommes acquis à la réforme, Henri III avait inoculé à la papauté l'idée-force qui ferait d'elle l'adversaire redoutable de l'empire. Un empire que la lutte avait terriblement affaibli. L’auréole de cette monarchie sacrale avait été ternie. L’humiliation de Canossa n'était pas de celles dont le souvenir s'efface facilement; l'empereur pouvait-il encore se dire le vicaire de Dieu, le « Nouveau David » ? Naguère, la Reichskirche avait servi de système nerveux à ses États et, comme des fonctionnaires, il avait nommé les prélats là où bon lui semblait. Désormais, conformément aux règles canoniques, c'était le chapitre qui les élirait. Certes, en Allemagne, l'empereur pourrait assister au vote et sa présence empêcherait sans doute les électeurs de choisir un candidat qui lui déplût, mais l'influence qui lui était ainsi laissée dépendrait en fait de son autorité morale ; seule une forte personnalité tirerait pleinement profit de ce reliquat de droit. Certes, les prélats prêteraient hommage au souverain au titre des biens et des pouvoirs régaliens qui continueraient à leur être concédés, mais ce rite montrait clairement qu'ils étaient maintenant des vassaux, plus des officiers. Le roi ne perdait pourtant pas tout : s’il laissait s’organiser une élection selon les règles canoniques, il était invité à donner son accord et à remettre les régales avant que la consécration ne puisse avoir lieu. C’était un pis aller. L’investiture religieuse était entre les mains des clercs ; la concession des régales se faisait par le sceptre. L’Eglise allemande gardait ses richesses et sa puissance et ne souhaitait pas couper le cordon qui la reliait au souverain. Les principautés épiscopales et abbatiales de l’Empire étaient sauvées. Le concile de Latran I (1123) ratifie le concordat de Worms (le concile de Latran II (1139) est convoqué par Innocent II et met fin au schisme d'Anaclet).