Край, в котором возник Харьков, был издавна заселен, о чем свидетельствуют многочисленные остатки городищ и курганов, выявленные археологами. Во времена Киевской Руси неподалеку от современного Харькова на берегу реки Уды находился древний город Донец, упомянутый в «Слове о полку Игореве», разрушенный татаро-монголами.
На земли обезлюдевшего края, прозванного Диким полем, в конце XVI- – первой половине ХVII века стали стекаться переселенцы – украинские казаки Приднепровья, особенно Правобережья, спасавшиеся от гнета польской шляхты. Переселенцы создавали слободы и хутора, обзаводились садами, огородами, пасеками, пашнями, разводили домашний скот и птицу. Однако частые разбойничьи набеги ногайских и крымских татар мешали мирной жизни. Русское государство, заинтересованное в охране южных границ, использовало казаков и присылаемых своих «воинских людей» для строительства на Диком поле обширной системы оборонительных укреплений в виде засечных линий и валов, перемежающихся с крепостями. Постепенно протянулись на многие версты Белгородская и Изюмская засечные черты, Украинская и Днепровская пограничные линии, под защитой которых возникали многочисленные поселения. До Харькова появились Чугуев (1638), Ахтырка (1641), Валки (1646), Сумы (1655) и другие поселения. В 1652–1654 годах несколько сот казаков с семьями во главе с осадчим Иваном Каркачем обосновались на месте заброшенного древнего городища у слияния рек Харьков и Лопань.
Холм, который теперь называют Университетской Горкой, хорошо отвечал задачам обороны от врагов. Реки защищали его с востока, юга и запада, а с северной стороны простирался обширный лесной массив. Возвышенность господствовала над заречными равнинными территориями, на которых было много озер и болот. В 1654–1655 годах казаки (число их, согласно сохранившейся переписи, составляло 587 человек мужского пола), руководствуясь чертежом, данным им чугуевским воеводой Григорием Спешневым, обнесли слободу рвом и валом (протяженность 530 саженей – 1150 метров), на гребне которого возвели тын – частокол из заостренных вверху бревен. Это не удовлетворяло русскую военную администрацию, стремившуюся сооружать более капитальные крепости по московским образцам.
28 марта 1656 года царь Алексей Михайлович издал указ об учреждении Харьковского воеводства и направлении туда Воина Селифонтова со «служивыми людьми» для строительства крепости. В этом указе впервые упомянут город Харьков, и 1656 год стал официальной датой его основания. Наименование города, видимо, произошло от ранее известного названия реки «Харькова», упоминаемого в рукописном документе начала ХVII века – «Книге Большому чертежу». Под командой Селифонтова и сменявших его в дальнейшем воевод крепость постепенно совершенствовали – обновляли, наращивали стены и башни, сооружали внешние укрепления.
Во второй половине ХVII века крепость имела в плане близкую к прямоугольнику форму, вытянутую вдоль берега реки Лопань. Восточная граница проходила по стороне нынешней площади Конституции от здания Института искусств до Дворца труда, южная – от этого здания до Центрального универмага, западная – по бровке откоса Университетской Горки до угла Каскадного сквера и северная – до угла здания Института искусств. С трех сторон (кроме западной стороны) крепость ограждали рвы и валы, на которых возвышались дубовые стены и башни. Стены образовывали клети из двух параллельных рядов бревен, связанных поперечными стенками, заполненные землей и камнями. Над стенами возвышались десять башен: четыре угловые, три проездные и три промежуточные. Северо-восточная угловая башня, называвшаяся Никольской, была самой высокой (19,5 метра) и служила вестовой.
От надвратных башен начинались основные внешние дороги. Московская башня первоначально находилась на северной стороне, а в дальнейшем была переведена на восточную. На юг вела Чугуевская башня, на запад Лопанская. Промежуточная Тайницкая башня была снабжена подземным ходом к запасному колодцу. С западной стороны, находившейся под защитой реки, вместо стен был поставлен частокол. С южной стороны к крепости в 1660–1662 годах пристроили острог, оградив его частоколом с башнями. Находился он на месте нынешней площади Розы Люксембург и кварталов между площадью и Кооперативной улицей.
Внутри крепости основными строениями были деревянная Успенская церковь, возведенная в 1657–1659 годах и в дальнейшем несколько раз перестраивавшаяся; приказная изба, государев двор, где размещался воевода, а также пороховой погреб, съезжая и несколько служб. На остальной площади тесно и беспорядочно размещались хаты казаков и русских служилых людей. В остроге, так же разрозненно, стояли хаты и имелись площадки, на которых происходили торги.
Рядом с крепостью, принадлежавшей казне и считавшейся собственно городом, привольно располагались на северо-востоке и на заречных территориях слободы, а на юго-востоке – посад, в дальнейшем превратившийся в Подол. Так естественным путем сформировались на территории города три части: «Захарьков», «Старый город» С Подоломи «Залопань». В каждой из этих частей жители объединялись в церковные приходы и сооружали свои храмы. К концу ХVII века, кроме Успенской церкви, считавшейся соборной, в городе насчитывалось семь церквей, шесть из них были деревянные. Успенскую церковь после пожара 1688 года заменили каменной (первая каменная церковь в городе), а в 1689 году заменили каменной также приходскую Покровскую церковь, обслуживавшую казаков, проживавших на северо-западе от Харьковской крепости. Этот храм – первый из сохранившихся до наших дней. Жилая застройка города в ХVII веке не отличалась от сельской. Представление о ней дает «Топографическое описание Харьковского наместничества» 1785 года: «Украинцы в построение жилых покоев и всякого хоромного строения не много употребляют бревен, не делают они построек высоко в закат; цельное же строение из брусьев, или же изпластиннику бывает только у дворян и других достаточных людей, а половина селений выстроена из хворосту, утвержденного между деревянных столбов и перекладин, набитого камнем с глиною и обмазанного с обеих сторон мелом, а вместо карнизов и наличников желтою или зеленою глиною». Там же упоминается, что «украинцы при обеспечении жилищ не последним делом считают разводить сады родючего дерева и обсаживать дворы и огороды ракитами, тополями или другими деревьями».
С преобразованием Харькова в 1670 году в казацкий полковой город его значение стало возрастать. Размещение на пересечении торговых путей, связывавших Россию с Кавказом и Крымом и Приднепровье с Поволжьем, благоприятствовало развитию торговли и ремесел. Городу разрешили проводить регулярные ярмарки, проходившие у подножья крепостных стен.
Попытки татар нападать на Харьков пресекались на дальних подступах к крепости, и ей не пришлось испытать свои боевые качества на деле. Периодически крепостные сооружения перестраивали и ремонтировали, а в начале XVIII века подвергли капитальной реконструкции. Связано это было с восстанием донских казаков и наступлением с юга шведской армии Карла ХII.
2 июня 1709 года, объезжая укрепленные города Украины, Петр Iпосетил Харьков. Ознакомившись с крепостью, он предписал расширить ее с северной стороны, построить там защитный вал, усилить укрепления и создать преграды на подступах. Следуя указаниям, крепости придали в плане ломаное очертание с пятью бастионами на углах и «форштатом ошести вольверках». Крепость расширили до нынешнего Бурсацкого спуска, вдоль северного склона которого протянулся деревянно-земляной вал. Покровская церковь при этом оказалась внутри крепости. Такие же укрепления возвели по направлению нынешних переулка Кравцова, Театральной площади и Театрального переулка, с южной стороны их соорудили в районе нынешней Кооперативной улицы. На отдельных открытых местах у внешних границ пригородных слобод разместили земляные рвы и валы.
Победный исход Полтавской битвы и передвижение границы России далеко на юг обеспечили Харькову долгие мирные годы. С утратой оборонного значения город все более приобретал значение экономического и культурного центра Слобожанщины. Особо важную роль в этом сыграло открытие в 1726 году в Харькове Коллегиума в составе Покровского мужского училищного монастыря. Двухъярусный Покровский храм обратили в монастырскую и коллегиумскую церковь. Главный корпус Коллегиума разместили вблизи храма в приспособленном для этого двухэтажном каменном доме, приобретенном у полковника Лаврентия Шидловского. Коллегиум стал первым высшим учебным заведением Левобережной Украины, готовившим по широкой программе молодежь разных сословий к разнообразной духовной и светской деятельности.
Утратившие за ненадобностью свое значение крепостные сооружения ветшали, разрушались и окончательно исчезли в начале XIX века. Однако от старого полкового города остались на века неизгладимые следы в виде принципиальной схемы планировочной организации территории. Место крепости превратилось в композиционный центр города. На местах окружавших крепость рвов и валов образовались три главные площади: Ярмарочная (позднее именовавшаяся Никольской или Николаевской, Тевелева, ныне – площадь Конституции), Народная (Лобная, Торговая, Павловская, ныне – площадь Розы Люксембург) и Лопанский базар (переименованный в Сергиевскую площадь, ныне – Пролетарскую). Цепь площадей замкнули с северо-западной стороны начальный участок Клочковской улицы и Бурсацкий спуск.
Дороги, веером расходившиеся от крепостных ворот в направлениях к другим городам, предопределили будущие магистральные улицы. Дорога на восток, по которой в ХVII и XVIII веках начинался путь на Москву, стала прообразом нынешнего Московского проспекта. Путь на север сворачивал от этой дороги по направлению нынешней улицы Академика Павлова, а ее продолжение на восток вело, как и ныне, в Чугуев. В юго-восточном направлении проходила дорога, называвшаяся Таганрогской. На ее месте в дальнейшем образовалась Петинская (теперь Плехановская) улица. На юг пролегло Змиевское шоссе, ныне – проспект Гагарина. На запад дорога вела в Полтаву и Новороссийск, затем в Екатеринослав (Днепропетровск) и Киев. Соответственно и улицу называли Полтавской, Киевской, Екатеринославской, теперь – улица Полтавский шлях. В северном направлении проходила старая дорога на Сумы, на месте которой образовалась Сумская улица, сохранившая свое наименование. Внешние фортификационные сооружения, служившие по мере роста города его временными границами, повлияли на образование поперечных улиц. Так образовалась типичная радиальная схема расположения улиц, зародились предпосылки для последующего перерастания ее в радиально-кольцевую, формирование которой продолжается и в настоящее время. В промежутках между радиальными дорогами, вдоль которых располагались слободы, образовывались левады, на которых находились пастбища, пашни, пустыри, озера и болота. Со временем застройка распространилась и на них. Заболоченные места осушали и благоустраивали.