Нимало не поколебавшийся в своих убеждениях Папа созывает в 1076 году очередной собор, где провозглашает запрет на светские инвеституры в более жестких выражениях, давая ясно понять, что сам император Священной Римской империи Запада не властен поставить на должность в собственных пределах даже подьячего. Этой декларацией Григорий фактически узурпировал прямую самодержавную власть над примерно третью всей христианской Европы. Повелителю Священной Римской империи Генриху IV было тогда всего лишь двадцать лет от роду, но он вовсе не намеревался отказываться хотя бы от крупицы своих традиционных прав и привилегий и просто-напросто пропустил папские декреталии мимо ушей. Григорий написал Генриху послание, в котором требовал письменно засвидетельствованного признания в грехах перед церковью. В ответ Генрих созвал собственный собор в Вормсе, объявивший о ниспровержении Григория, на что Григорий отлучил от церкви Генриха и его последователей. Он провозгласил, что Генрих отныне лишается власти и хранить ему верность не обязан никто и ни при каких обстоятельствах, чем фактически вычеркнул германского императора из бытия, отказав ему в каком-либо мирском или духовном существовании.

Генрих, недооценивший духовную власть, начал осознавать что к чему, когда епископы и знать стали покидать его. В конце концов собственный народ выставил ему ультиматум: или отмена отлучения ко 2 февраля 1077 года, или все подданные покинут его. Когда же Григорий объявил, что направляется в Германию, дабы навести там порядок, Генрих тотчас же устремился на юг, чтобы перехватить его. Их дороги пересеклись под Мантуей, где Григорий остановился в замке Каносса. Двадцать пятого января, в промозглый холод, Генрих, облаченный в рубище и босоногий, как воистину кающийся грешник, вскарабкался вверх по дороге к замку. Он униженно молил Папу о приеме, но тот решил сперва преподать ему урок. Дрожащего венценосца продержали на холоде три дня и три ночи, и лишь после этого Григорий, наконец, снизошел к его мольбам, допустив к папской особе.