A l'autre extrémité de ses Etats, sur sa frontière orientale, Henri fut tenu en échec, pendant quinze ans, par le duc de Pologne, Boleslav Chrobry. Celui-ci, au temps où régnait Othon III, avait mis la main sur plusieurs Etats, jusque-là vassaux de l'Allemagne, la Moravie, la Silésie, la Lusace, voir même la Bohême, et, au moment où Henri II monta sur le trône, il était sur le point de rassembler des Slaves disséminés en un vaste groupement, soumis à son autorité. La guerre avec la Pologne n'apporta à Henri Il que d'amères déceptions. Quelques-uns de ses vassaux s'allièrent avec Boleslav, et, lorsque, en 1018, il dut enfin consentir à signer la paix de Bautzen, et que le duc de Pologne eut déclaré reconnaître sa suzeraineté, il ne put se dissimuler que la satisfaction ainsi obtenue n'était qu'une pure formalité; il n'avait pu reprendre aucun des territoires allemands annexés par Boleslav.

Si Henri voyait dans l'Allemagne le point le plus sensible de l'empire, il n'avait aucune intention d'abandonner l'Italie. Avant tout, il estimait que son premier devoir était de protéger l'Eglise. A Rome, depuis la mort d'Oton III, deux partis se disputaient de nouveau le pouvoir: les Creszenti et les Tusculani. Ces derniers élirent pape un des leurs, Benoît VIII, tandis que le candidat choisi par le parti adverse se réfugiait en Allemagne auprès de l'empereur. Mais Henri II se déclara pour Benoît et partit pour l'Italie afin d'y imposer sa volonté. Quoique Benoît eût été élu irrégulièrement, à la suite de rivalités partisanes, il se révéla très capable et manifesta beaucoup d'ardeur à soutenir la réforme de l'Eglise. En 1014, il couronna l'empereur Henri II et lui offrit, à cette occasion, un globe en or orné de pierres précieuses et que surmontait une croix; c'était un symbole de l'hégémonie universelle; on l'appela par la suite la « pomme de l'empire » (Reichsapfel). Henri l'envoya aux moines de Cluny avec l'intention bien arrêtée de déclarer ainsi que l'hégémonie universelle de l'esprit leur appartenait.

Mais huit jours après les fêtes du couronnement, une rixe sanglante éclata dans Rome entre Allemands et Italiens. Henri se retira alors sans avoir pu faire reconnaître complètement son autorité en Italie. Il est vrai qu'il tenait bien en mains l'Italie septentrionale où il avait pris soin de confier les évêchés à des Allemands; mais à Rome et dans l'Italie méridionale, la situation restait confuse. Le pape Benoît souhaitait affranchir les Italiens du Sud et de la suzeraineté de Byzance et de la domination des Sarrasins. Ces derniers avaient, depuis quelque temps, recommencé leurs attaques contre la péninsule italienne, tandis que les Byzantins, très désireux de conserver leurs droits sur ces contrées, étaient inquiets, mais se sentaient impuissants contre les envahisseurs. Une révolte, dirigée contre la domination byzantine et soutenue par le pape, éclata alors dans les Pouilles et Benoît VIII fit appel, contre les Byzantins, et, indirectement, contre les Sarrasins, à une puissance nouvelle, celle des Normands.

En l'année 1016, quarante pèlerins normands qui revenaient d'un pèlerinage en Terre sainte, débarquèrent près de Salerne; ils soutinrent victorieusement le prince Weimar dans une bataille contre les Sarrasins. Puis, à sa demande, ils appelèrent en Italie deux cent cinquante nouveaux Normands. Le pape auquel ces derniers se présentèrent les reçut bien et les chargea d'appuyer la lutte des Pouilles contre Byzance. Leur entreprise échoua, les Byzantins remportèrent la victoire sur le champ de bataille historique de Cannes, mais les Normands avaient mis le pied dans l'Italie méridionale et ils y restèrent. Le germe d'un futur Etat normand avait pris racine.

Quelques années plus tard, Benoît VIII eut à nouveau besoin de l'aide de l'empereur; pour se l'assurer, il se rendit personnellement en Allemagne. Le pape et l'empereur se rencontrèrent à Bamberg où ils renouvelèrent leur alliance dans les termes employés naguère par Othon le Grand. Henri II promit l'aide de ses armes; l'Italie méridionale devait enfin être délivrée de l'occupation étrangère. De ce fait, Henri rentrait dans la voie qu'Othon III avait ouverte; il apparut dans les Pouilles à la tête d'une grande armée. Mais après quelques victoires, il s'en retourna; les perspectives qui s'offraient lui semblaient de peu d'importance et la politique impériale ne présentait, pour lui, aucun intérêt.

En revanche, il était disposé à appuyer la réforme de l'Eglise. L'abandon complet du célibat des prêtres, généralement admis dans toute l'Italie, avait placé l'Eglise dans une situation navrante; elle se trouvait prise dans un réseau d'intrigues familiales. L'empereur et le pape entreprirent une lutte en commun contre ce regrettable état de faits, lutte dans laquelle le rôle le plus actif fut réservé à Henri II. Dans un synode, à Pavie, en 1018, de sévères dispositions furent prises contre le pillage des biens de l'Eglise et contre le mariage des prêtres. Ensuite, Henri II imposa aussi ces résolutions à l'Allemagne. Mais il avait à coeur une réforme plus complète de l'Eglise. En août de l'an 1023, il invita le roi de France, Robert, à une rencontre dans un village de Lorraine. Ils y conclurent une alliance pacifique et amicale « pour le salut de la chrétienté décadente ». Un concile général devait trouver peu à peu le moyen pratique de faire aboutir la réforme. L'empereur n'en sut rien, car il mourut au printemps de l'an 1024, quelques semaines après son collaborateur Benoît VIII. Si la réforme de l'Eglise avait été accomplie sous le règne de l'empereur Henri II, l'ébranlement que la querelle des Investitures devait communiquer à l'Occident, lui eût peut-être été épargné. Mais il n'appartenait pas au pouvoir temporel de diriger l'oeuvre réformatrice; il n'en eût pas été capable, lui qui, sans s'en rendre compte, avait sa part de responsabilité dans la déchéance de l'Eglise, pour l'avoir obligée à courber le front devant lui et avoir fait d'elle la servante de l'Etat. Henri II lui-même, animé pourtant des meilleures intentions, n'en régna pas moins en maître sur les évêchés et les abbayes, à l'exemple de ses prédécesseurs. En faveur de son patrimoine, il diminua le domaine de plusieurs monastères, avec l'idée que leurs biens étaient les siens propres. L'un des buts qu'il poursuivait, en agissant de la sorte, était l'affermissement de la puissance militaire de l'empire, au moyen de l'utilisation, conforme aux nécessités du temps, des biens confisqués aux couvents et qu'il donnait en fief à ses vassaux. Mais il avait aussi un motif honorable: celui d'alléger les monastères d'une partie de leurs trop vastes propriétés afin qu'ils pussent mieux accomplir leur tâche spirituelle; en compensation, il les libéra du service de l'armée et de la cour.

Aux yeux de certains historiens, Henri II aurait fait preuve souvent d'une louable indépendance à l'égard de l'Eglise. C'est méconnaître les sentiments profonds qui l'animaient et qui déterminèrent constamment sa conduite, et c'est faire preuve d'ignorance à l'égard des usages et des idées généralement reçus au XIe siècle. Ce n'est pas dans un esprit frondeur qu'Henri Il conclut une alliance avec les Lusaciens paiens, mais simplement parce que, en politicien avisé, il employa contre le duc de Pologne un moyen qu'imposaient les nécessités de la guerre. Ce n'est pas arbitrairement qu'il exigeait des évêques de grosses prestations en faveur de l'Etat: la coutume l'y invitait, et personne, même à Rome, ne songeait à le lui reprocher. Enfin, quand il défendit les droits de l'empire contre les prétentions de l'Eglise, il ne fit que son devoir d'empereur.

Il fut un chrétien convaincu, respectueux des intérêts de l'Eglise; jamais il ne donna la crosse à un prélat indigne. Il cultivait des relations intimes avec Cluny et fréquentait l'abbé Odilon. La prédilection qu'il nourrissait pour la ville de Bamberg l'incita à y fonder un évêché qu'il dota richement par un prélèvement sur ses biens personnels. Sous le patronage du chapitre, une école florissante se développa bientôt dans ce lieu. Les principaux traits de son caractère, qui sont la modération, la libéralité, la bienveillance, l'esprit de pardon, ses efforts pour faire régner la paix dans le royaume, sont le fait d'un chrétien. Au XIIe siècle, l'Eglise tenait l'empereur Henri Il et son épouse Cunégonde pour des saints.