Указание на «германскую нацию» в титуле императора стало употребляться начиная с середины XV века, когда большая часть негерманских земель была потеряна и империя стала восприниматься как национальное немецкое государственное образование. Первое свидетельство об использовании этого титула содержится в законе о земском мире 1486 г. императора Фридриха III. Окончательную форму названия империя приобрела уже в начале XVI века: в 1512 г. Максимилиан I в своём обращении к рейхстагу впервые официально использовал наименование «Священная Римская империя германской нации» (нем. Heiliges Römisches Reich Deutscher Nation).
К середине XVIII века империя потеряла какое-либо влияние в Италии, император лишился своих прерогатив в церковной сфере, а тенденции дезинтеграции фактически превратили Германию в конгломерат полунезависимых княжеств. Это позволило Вольтеру заявить, что Священная Римская империя больше не является «ни священной, ни римской, ни империей». В своих последних документах (заключительное постановление имперской депутации 1803 г. и манифест Франца II о роспуске империи 1806 г.) государство называлось уже «Германская империя» (нем. Deutsches Reich).
Поскольку на протяжении почти всего периода своего существования Священная Римская империя являлась единственным государственным образованием в Западной Европе, монарх которого носил титул императора, она зачастую была известна просто как «Империя». В российских документах XVIII века использовалось также наименование «Цесария». В XIX веке, после образования Германской и Австрийской империй, в отношении их предшественницы стало использоваться название «Старая империя». В связи с тем, что для наименования нацистского режима в Германии 1933—1945 гг. неофициально употреблялся термин «Третий рейх», в отношении Священной Римской империи иногда используется обозначение «Первый рейх».
Императорский титул, принятый Оттоном Великим, ставил его на ступень выше всех европейских монархов и, по крайней мере, вровень с папой римским. Особое значение имел сакральный характер этого титула, который позволял Оттону I и его преемникам полностью контролировать церковные институты в своих владениях. Выборы епископов и аббатов осуществлялись по указанию императора, и ещё до рукоположения церковные иерархи приносили ему клятву верности и ленную присягу. Церковь была включена в светскую структуру империи и превратилась в одну из главных опор императорской власти и единства страны. Это отчётливо проявилось уже в период правления Оттона II (973—983) и во время несовершеннолетия Оттона III (983—1002), когда благодаря поддержке высшего духовенства Германии императорам удалось подавить несколько крупных восстаний правителей племенных герцогств. Сам папский престол при Оттонах оказался под доминирующим влиянием императоров, зачастую единолично решавших вопросы назначения и смещения римских пап. В этот период светские и духовные дела не были чётко отделены друг от друга, и император, как «наместник Бога на земле», осуществлял власть над обеими сферами. Интеграция церкви в государственную структуру достигла своего апогея при Конраде II (1024—1039) и Генрихе III (1039—1056), когда сформировалась классическая имперская церковная система (нем. Reichskirchensystem).
Государственные институты империи в ранний период оставались достаточно слабо дифференцированными. Император являлся одновременно королём Германии, Италии, а после смерти в 1032 г. последнего бургундского короля Рудольфа III — и Бургундии. Основной политической единицей в Германии являлись племенные герцогства: Саксония, Бавария, Франкония, Швабия, Лотарингия (последняя в 965 г. была разделена на Нижнюю и Верхнюю) и, с 976 г., Каринтия. Вдоль восточной границы была создана система марок (Северная, Саксонская Восточная, Баварская Восточная, позднее — Мейсенская, Бранденбургская, Лужицкая). В 980-х гг. славяне на некоторое время вновь отбросили немцев за Эльбу и захватили Гамбург, но в начале XI века империя восстановила свои позиции в регионе, хотя дальнейшее продвижение остановило вхождение Польши и Венгрии на правах независимых королевств в европейское христианское сообщество. В Италии были также сформированы марки (Тоскана, Верона, Иврея), однако развитие коммунального движения к началу XII века разрушило эту структуру.
Главную проблему для императоров представляло удержание власти одновременно и к северу, и к югу от Альп. Оттон II, Оттон III и Конрад II были вынуждены подолгу находиться в Италии, где они вели борьбу против наступления арабов и византийцев, а также периодически подавляли волнения итальянского патрициата, однако окончательно утвердить имперскую власть на Апеннинском полуострове так и не удалось. За исключением короткого царствования Оттона III, перенёсшего свою резиденцию в Рим, ядром империи всегда оставалась Германия.
К правлению Конрада II (1024—1039), первого монарха Салической династии, относится формирование сословия мелких рыцарей (в том числе министериалов), чьи права император гарантировал в своём постановлении «Constitutio de feudis» 1036 г., которое легло в основу имперского ленного права. Мелкое и среднее рыцарство в дальнейшем стало одним из главных носителей тенденций интеграции в империи. Конрад II и его преемник Генрих III контролировали большую часть немецких региональных княжеств, самостоятельно назначая графов и герцогов, и полностью доминировали над территориальной аристократией и духовенством. Это позволило ввести в имперское право институт «Божьего мира» — запрещение междоусобных войн и военных конфликтов внутри империи.
Апогей имперской власти, достигнутый при Генрихе III, оказался недолговечным: уже в период несовершеннолетия Генриха IV (1056—1106) началось падение влияния императора. Это происходило на фоне подъёма клюнийского движения в церкви и развившихся из него идей григорианской реформы, утверждавших верховенство папы римского и полную независимость церковной власти от светской. Папа Григорий VII попытался устранить возможность влияния императора на процесс замещения церковных должностей и осудил практику светской инвеституры. Однако Генрих IV решительно встал на защиту прерогатив императора, что повлекло длительную борьбу за инвеституру между императором и папой римским. В 1075 г. назначение Генрихом IV епископа в Милан стало поводом для отлучения императора Григорием VII от церкви и освобождения подданных от присяги верности. Под давлением немецких князей император был вынужден в 1077 г. совершить покаянное «хождение в Каноссу» и умолять папу о прощении. Борьба за инвеституру завершилась лишь в 1122 г. подписанием Вормсского конкордата, который закрепил компромисс между светской и духовной властью: выборы епископов должны были происходить свободно и без симонии, однако светская инвеститура на земельные владения, а тем самым и возможность императорского влияния на назначение епископов и аббатов, сохранялась. В целом, борьба за инвеституру существенно ослабила контроль императора над церковью, вывела папство из имперской зависимости и способствовала подъёму влияния территориальных светских и духовных князей.
Во второй четверти XII века в центре политической жизни империи оказалось соперничество между двумя крупными княжескими родами Германии — Гогенштауфенами и Вельфами. Первые доминировали в юго-западной Германии (Швабия, Эльзас) и Франконии. Вельфы были правителями Баварии, Саксонии, Тосканы и, наряду с Альбрехтом Медведем, развивали экспансию в направлении славянских земель Мекленбурга, Поморья и Поэльбья. В 1138 г. императором был избран Конрад III Гогенштауфен, однако вооружённое противостояние Вельфов и Гогенштауфенов продолжалось практически на всём протяжении его правления.
После смерти Конрада III в 1152 г. императором стал его племянник Фридрих I Барбаросса, царствование которого стало периодом значительного усиления центральной власти в Германии и, по мнению многих историков, вершиной могущества Священной Римской империи. Главным направлением политики Фридриха I стало восстановление императорской власти в Италии. Фридрих совершил шесть походов в Италию, во время первого из которых был коронован в Риме императорской короной. На Ронкальском сейме 1158 г. была предпринята попытка юридического оформления всевластия императора в Италии и Германии. Усиление императора на Апеннинском полуострове вызвало сопротивление как папы римского Александра III и Сицилийского королевства, так и североитальянских городских коммун, которые в 1167 г. объединились в Ломбардскую лигу. Ломбардской лиге удалось организовать эффективный отпор планам Фридриха I в отношении Италии и в 1176 г. нанести сокрушительное поражение имперским войскам в битве при Леньяно, что вынудило императора в 1187 г. признать автономию городов. В самой Германии позиции императора значительно укрепились благодаря разделу владений Вельфов в 1181 г. и формированию достаточно крупного домена Гогенштауфенов. В конце жизни Фридрих I отправился в Третий крестовый поход, во время которого и погиб в 1190 г.