Ввод эшелона развития успеха был отложен до утра 17 мая. В ночь на 17 мая на р. Берестовая сапёры восстановили три моста. Закончили приготовления к вводу в сражение и танковые корпуса. В 5 часов 17 мая в направлении Тарановки начал выдвижение 21-й танковый корпус. 23-й танковый корпус, переправившись через р. Берестовая, в 8 часов перешёл в наступление в направлении Нов. Водолага. За день боевых действий оба корпуса продвинулись в северо-западном направлении на 14 — 15 км, а стрелковые дивизии — на 6 — 10 км.
Части 6-го кавалерийского корпуса, не овладев Красноградом с ходу, были вынуждены перейти к осаде города в тяжёлых условиях. Из-за большого удаления от тыловых баз срывалась доставка боеприпасов, поэтому корпусу пришлось прекратить атаки до накопления снарядов и мин. Для немцев такой проблемы не существовало, так как Красноград являлся их опорной тыловой базой.
17 мая наступление велось в обстановке, когда на южном фасе Барвенковского выступа соединения 57-й и 9-й армий Южного фронта вели тяжёлые оборонительные бои с перешедшей в наступление армейской группой Клейста. Чтобы усилить войска Южного фронта, маршал С.К.Тимошенко приказал вывести из боя 23-й танковый корпус и направить его против наступающего противника. Из-за плохой работы штаба 6-й армии приказ корпусу был доведён с опозданием на 12 часов, поэтому до полудня 18 мая наступление продолжалось в прежней группировке и с прежними задачами. 23-й танковый корпус овладел Караван, 21-й танковый корпус к исходу дня завязал бои за Борки. Армейская группа, окружив Красноград, вела бои в городе. Продолжавшееся наступление армейской группы Клейста вынудило командующего Юго-Западным фронтом направить против неё и 21-й танковый корпус. Но распоряжение о его выводе из боя запоздало на 10 часов. В силу этого, до 10 часов 19 мая части корпуса наступали вместе со стрелковыми дивизиями 6-й армии, что позволило им достичь южной окраины г. Змиев. Это был последний успех южной ударной группировки. В связи с резким ухудшением обстановки в полосах 57-й и 9-й армий маршал С.К.Тимошенко приказал 6-й армии в 17 часов 20 минут 19 мая перейти к обороне.
Как же проходили боевые действия северной ударной группировки? Наибольшего успеха в первый день наступления добились войска 21 и 38-й армий. Им удалось прорвать главную полосу обороны и продвинуться на глубину 6 — 10 км. Менее успешно наступала 28-я армия, на которую однако возлагалась основная задача по разгрому врага на этом направлении. Она вклинилась в оборону противника лишь на 2 км. Это объяснялось не только прочностью обороны противника в её полосе, но и просчётами в управлении войсками.
Успешные действия войск северной ударной группировки Юго-Западного фронта заставили Паулюса принимать срочные меры для укрепления обороны на ближних подступах к Харькову. Для этого использовались тыловые части, различные сводные подразделения, перебрасывались силы с других направлений. Главной же реакцией на прорыв советских войск стала подготовка мощного контрудара по левому флангу ударной группировки (38-й армии). С этой целью из Харькова начали выдвижение 3 и 23-я танковые дивизии и один пехотный полк30.
Разведка фронта обнаружила выдвижение этих дивизий. Командование сделало правильный вывод о намерениях противника. Однако обстановка в целом оценивалась недостаточно глубоко. Последовавшие меры были направлены лишь на отражение возможного контрудара и ничего не было сделано для наращивания силы удара наступающих войск. Более того, изъятие танков из боевых порядков соединений 38-й армии и сосредоточение их за левым флангом армии ослабило стрелковые дивизии. Командование фронтом не попыталось развить успех 21 и 38-й армий, не уточнило задачи войскам не привлекло к активным действиям дополнительные силы из резерва. Не использовало оно и благоприятную воздушную обстановку. В это время авиация фронта полностью господствовала в воздухе. За весь день противник совершил всего лишь 21 самолёто-пролёт над войсками 21, 28 и 38-й армий31. В целом командование фронтом действовало пассивно и по существу уступило инициативу противнику.
На следующий день 21-я армия продвинулась ещё на 8 — 14 км. Тактическая зона обороны в её полосе была прорвана, соединения вышли на рубеж М. Пристань, Муром, Высокий32. В полосе наступления 28-й армии удалось окружить противника в Терновой. 38-я армия продвинулась в юго-западном направлении на 5 км. Однако во второй половине дня обстановка в её полосе резко изменилась. Противник силами 3 и 23-й танковых дивизий и трёх полков при поддержке авиации нанёс контрудар из района Приволье и Зарожное в общем направлении на Стар. Салтов33. 38-я армия вынуждена была отойти за реку Бол. Бабка, открыв левый фланг 28-й армии. Генералу К.С.Москаленко было приказано перейти к обороне по восточному берегу р. Бол. Бабка. Одновременно командующий фронтом усилил 38-ю армию 162-й стрелковой дивизией (командир — полковник М.И.Матвеев) и 6-й гвардейской танковой бригадой, изъяв их из 28-й армии. Вместо них в распоряжение командующего 28-й армией передавалась 277-я стрелковая дивизия, прибытие которой можно было ожидать не ранее 17 мая.
14 мая боевые действия приняли исключительно острый характер. Соединения 21-й и 28-й армий продвинулись в своих полосах наступления ещё на 6 — 8 км. Фронт прорыва расширился до 56 км. В центре прорыва войска продвинулись на глубину 20 — 25 км 34. Были созданы условия для ввода в сражение эшелона развития успеха 28-й армии, но сделано это не было. Таким образом, не был использован шанс для наращивания усилий и противодействия, таким образом контрудару противника. Развитие успеха на направлении обозначившегося успеха могло оказать существенную помощь 38-й армии, соединения которой с большим напряжением отражали атаки противника на р. Бол. Бабка. В развернувшихся оборонительных боях воины армии проявили исключительное мужество, стойкость. Особенно отличился наводчик орудия сержант И.П.Кавун. Под селом Петровское он уничтожил 3 танка, пушку, три пулемёта, большое количество гитлеровцев. В этот день отважный артиллерист погиб 35.
Вражеское командование продолжало укреплять оборону: уплотнялись боевые порядки подразделений, активизировались действия авиации, в район северо-западнее Мурома выходили части перебрасываемой из-под Белгорода 168-й пехотной дивизии. Возросшая активность вражеской авиации была в некоторой мере ослаблена действиями авиации 6-й армии, перенацеленной на это направление, однако почти ничего не было сделано для того, чтобы воспрепятствовать перегруппировке 168-й дивизии.
На следующий день, следуя указаниям командующего войсками фронта36, основные силы северной ударной группировки перешли к обороне. Попытка наступать частью сил 21-й и 28-й армий была сорвана контратаками противника. В 15 часов до 300 вражеских парашютистов, приземлившись северо-западнее Терновая, с боем пробились к своему окружённому гарнизону, усилив его. Ещё более изменилась воздушная обстановка. Немецкое командование перебросило из Крыма, из состава 4-го воздушного флота три бомбардировочные эскадры37. Авиация Юго-Западного фронта делала всё возможное, чтобы вернуть господство в воздухе, прикрыть свои войска и нанести поражение контратакующим соединениям противника. В небе шли яростные схватки. Лётчик-истребитель, секретарь комсомольского президиума 2-й авиаэскадрильи 6-го авиационного полка лейтенант Ф.Бобылкин в этих и последующих боях (до 5 июня) сбил лично 8 вражеских самолётов, а 4 уничтожил в составе группы38.
Упорное сопротивление советских войск не позволило противнику достичь существенных результатов. Более того, 175-я и 169-я стрелковые дивизии 28-й армии снова перешли в наступление и продвинулись на 3 — 5 км. Командующий фронтом, уловив изменения в обстановке, приказал войскам возобновить наступление. 21-я и 28-я армия должны были выполнить ранее поставленную задачу. 3-й гвардейский кавалерийский корпус получил задачу подготовиться к вводу в сражение на стыке 21-й и 28-й армий. 38-й армии следовало прочно оборонять занимаемые рубежи.
В то время как противник, вводя новые силы и смело маневрируя с менее опасных направлений на угрожаемые участки, принимал решительные меры для противодействия наступлению советских войск, командование Юго-Западного фронта пыталось достичь цели операций по существу прежними силами. Не вводились в сражение даже имевшиеся в его распоряжении резервы. Попытка возобновить наступление без ввода кавалерийского корпуса оказалась неудачной. Противник сам перешёл к наступательным действиям и вынудил войска северной ударной группировки вести тяжёлые оборонительные бои и даже отойти к Мурому. Был деблокирован гарнизон в Терновой.
В 22 часа 17 мая штабу Юго-Западного фронта стало известно о готовящемся ударе противника из района Балаклеи в юго-западном направлении силами 3-й и 23-й танковых дивизий. Документы, в которых раскрывался этот план, были захвачены разведчиками 38-й армии ещё 13 мая, однако в штаб армии они поступили лишь 17 числа. Командующий войсками фронта принял решение с утра 18 мая возобновить наступление в западном направлении силами восьми дивизий и четырёх танковых бригад 28-й и 38-й армий с тем, чтобы сковать танковые дивизии противника. В район Изюма планировалось выдвинуть 343-ю стрелковую дивизию из фронтового резерва. Однако это наступление, вследствие недостаточной его организации39 и массированных ударов вражеской авиации, успеха не имело. Удалось лишь вновь окружить противника в Терновой.
Последующие попытки наступать также закончились безрезультатно. 19 мая командующий фронтом потребовал ускорить разгром немецкой танковой группировки. Отдавая такое распоряжение, он исходил из того, что командующие армиями докладывали об огромных потерях и истощении противника, его неспособности продолжать наступление. В действительности же немецкое командование решило, перегруппировав силы, огнём артиллерии, танков и ударами авиации отразить очередное наступление советских войск, а затем разгромить их контрударом двух танковых дивизий (до 140 танков) и шести пехотных полков. Таким образом, на сей раз командование противника изменило тактику, предоставив советским войскам начать наступление первыми.