Ось як згадує про ті роки О. І. Ахієзер: «Наукове життя в УФТІ у ті роки вирувало. Прекрасно працювали реферативні зібрання і вчена рада інституту. Відвідання цих зборів, участь у їх роботі приносили співробітникам УФТІ величезну користь. Про те, що являла собою наукова діяльність інституту, можна довідатися з наступного — на першій виїзній сесії фізичної групи АН СРСР, яка відбувалася в УФТІ у січні 1937 р., академік С. І. Вавілов сказав: «Праці УФТІ — це чверть усієї радянської фізики». У резолюції сесії зазначалося, що УФТІ за шість років свого існування перетворився на один з провідних фізичних інститутів Радянського Союзу. «Ми тоді дуже пишалися такою високою оцінкою роботи УФТІ».
На хімічному факультеті та в НДІ хімії Харківського університету під керівництвом проф. А. І. Кіпріанова група науковців розробляла проблему фотосенсибілізаторів, що знайшли застосування у виробництві вітчизняної кіноплівки, завдяки чому радянська кінопромисловість перестала бути залежною від імпорту. Якість її була вищою від закордонної, що дозволяло вести аерофотозйомку при мінімальному освітленні.
Значних змін зазнали гуманітарні науки. Зокрема, у Харкові в 1921 р. виникла така нова установа, як Комісія по вивченню історії Великої Жовтневої революції на Україні та історії КП(б)У (Істпарт) з філіями в центрах губерній. Невдовзі було створено Інститут марксизму (пізніше перейменований на Український інститут марксизму-ленінізму, з 1931 р. Всеукраїнська асоціація марксистсько-ленінських інститутів (ВУАМЛІН), президентом якої став О. Шліхтер). Влада розраховувала на те, що таке об'єднання наукових установ успішніше розроблятиме проблеми суспільних наук, ніж «буржуазна» ВУАН.
У 20 — 30-і роки в Харкові відбулося чимало значних наукових форумів. Окрім тих, про які вже згадувалося, тут проходили перший Всеукраїнський з'їзд бактеріологів та епідеміологів (1920), перший Всесоюзний математичний з'їзд (1930), Всесоюзний з'їзд фізіологів (1930) та ін.
Наукові дослідження у цей період проводились і у вищій школі, проте на цей час уже стало тенденцією відокремлення науковця від викладача. Після реорганізації університетів і створення інститутів народної освіти були створені самостійні наукові структури — науково-дослідні кафедри. Попри те, що науково-дослідні кафедри були автономними закладами, їхня діяльність, однак, проходила в тісному контакті з ВНЗ. Харківський ІНО щодо цього відрізнявся від решти навчальних закладів. Лише при ньому кількість науково-дослідних кафедр була відповідною тим групам дисциплін, які викладалися у ВНЗ. Взагалі ж по інститутах ситуація з науково-дослідними кафедрами (зокрема на 1927 р.) виглядала таким чином: ХІНО — 13, технологічний інститут — 9, сільськогосподарський — 5, медичний — 5, ветеринарний — З, інститут народного господарства — 2, фармацевтичний технікум — 1. Науково-дослідні кафедри при ВНЗ проводили не лише значну науково-теоретичну роботу, але й працювали над вирішенням невідкладних практичних завдань. Кафедра хімічної технології мінеральних речовин вивчала ізюмські фосфорити та можливості їх використання як мінеральних добрив, працювала над створенням емалей для захисту металів від корозії і т. ін.
У другій половині 20-х років поступово посилюється тенденція перетворення кафедр на інститути. Так, наприкінці 1926 р. на основі кафедри педагогіки було створено Український науково-дослідний інститут педагогіки. У 1929 р. при ХІНО на базі науково-дослідних кафедр прикладної математики і геометрії було створено науково-дослідний інститут математики на чолі з академіком С. Н. Бернштейном. А відповідно до постанови Раднаркому УСРР від 1 серпня 1930 р. «Про ліквідацію деяких науково-дослідних установ НКО та нову мережу цих установ» при ХІНО була ліквідована решта науково-дослідних закладів. З відродженням університету чимало наукових структур увійшло до його складу.
Відповідно до положення про науково-дослідні кафедри 1921 р., головним їх завданням була «розробка під керівництвом найбільш видатних учених наукових проблем, а також підготовка до наукової і педагогічної діяльності осіб, що мають потяг до наукової діяльності і необхідні для цього знання і здібності».
Студенти, які бажали стати аспірантами, спочатку відвідували так звані семінари підвищеного типу (як при інститутах, так і при кафедрах), які мали покращити якість знань кандидатів в аспіранти, оскільки програми ВНЗ були скорочені і не давали необхідної теоретичної підготовки. Семінари підвищеного типу присвячувались окремим галузям науки. Частину доповідей на них робили студенти, частину — викладачі. Робота в таких семінарах за своїм характером та рівнем наближалася до наукових досліджень. Так, наприклад, студенти ХІНО, члени семінару з етнографії, яким керував проф. О. В. Вєтухов, не лише аналізували основну літературу з етнографії, знайомилися з музеями Харкова, а й робили спроби краєзнавчого дослідження міста та його пам'яток. До речі, колективи майже всіх науково-дослідних кафедр проводили чималу роботу щодо вивчення ресурсів Харківського регіону.
Для вступу до аспірантури необхідно було пройти співбесіду з керівником кафедри, а з 1925 р., відповідно до «Правил вступу аспірантів у кафедри, їхньої науково-підготовчої роботи та переводу в наукові співробітники», обов'язковим стає складання колоквіуму. Навчання в аспірантурі спочатку зводилося до розробки 10—12 тем та написання промоційної роботи (аналог кандидатської дисертації). У другій половині 20-х років система підготовки аспірантів ускладнюється: до старих форм контролю (звіти, усні виступи на семінарах та письмові доповіді) додаються колоквіуми та іспити.
У 1926 р. було прийнято «Положення про інститут студентів-висуванців». Відповідно до цього положення зі складу студентів двох останніх курсів відбиралися кандидати для поглибленого вивчення профілюючих дисциплін. За умови успішного навчання ці студенти мали переваги при вступі до аспірантури. У 1928 р. були переглянуті правила вступу до аспірантури. Перевагу при зарахуванні вони надавали робітникам та селянам.
У 30-х роках підготовка наукових кадрів здійснювалась як у вищих навчальних закладах, так і науково-дослідних інститутах, але в останніх навчалося не більше третини всіх аспірантів.
Навчання молодих науковців у той час ускладнювалося багатьма обставинами: недоліками їхньої загальноосвітньої підготовки, скрутними матеріальними й поганими побутовими умовами, навчальною перевантаженістю, а ще більше позанавчальною роботою, нестачею наукових керівників, поганою організацією їх навчання. Але поступово відбувалося вдосконалення системи підготовки наукових кадрів. У 1939 р. було прийнято нове «Положення про аспірантуру». Здійснені заходи підвищили ефективність аспірантури. Про це свідчать дані й по харківських ВНЗ: лише в Харківському фармацевтичному інституті за чотири передвоєнні роки було захищено 40 дисертацій.
Так чи інакше, але слід зазначити, що серед тих, хто навчався в аспірантурі в 20 —30-і роки, було чимало майбутніх видатних учених та організаторів науки. Зокрема, у 1926—1929 рр. аспірантом сектора порівняльної фізіології науково-дослідної кафедри зоології Харківського інституту народної освіти був І. М. Буланкін — у майбутньому доктор наук, професор, ректор Харківського державного університету.
Уже в 20-і роки у ВНЗ активно діяли студентські наукові гуртки. Так, серед найбільш активних наукових гуртків ХТІ був гурток гідравліки та авіації. У ньому не лише вивчалися теоретичні проблеми, читалися доповіді, але й виконувалися проекти літальних апаратів. Силами гуртківців були спроектовані для представлення на конкурс, оголошений Товариством авіації та повітроплавання України та Криму, три планери — всі три проекти були відзначені преміями. За тими самими проектами Харківська авіабаза побудувала два планери, які у вересні 1924 р. брали участь у змаганнях. Для заводу ВЕК гурток розробив проект невеликого аероплана.
На хвилі українського національного піднесення у містах і селах створювалися осередки дослідників історико-культурних скарбів рідного краю та його природних багатств. Перший такий осередок було створено взимку 1923 р. в Харкові за ініціативою професора ХІНО К. Д. Зеленіна. На його установчих зборах була прийнята ухвала про об'єднання всіх українських краєзнавців. Це був початок створення організації центру краєзнавства в Україні. Після певної підготовки в Харкові у травні 1925 р. в приміщенні ветеринарного інституту відбулася перша Всеукраїнська краєзнавча конференція, було створено Український комітет краєзнавства. У 1927 р. співробітники УКК налагодили випуск науково-методичного журналу «Краєзнавство». Краєзнавчий рух об'єднав як науковців, так і широкі кола громадськості.
Оскільки вчені прагнули до самостійної профспілкової організації, був знайдений компромісний варіант — секція наукових працівників у профспілці працівників освіти. Однією з перших така секція була створена в Харкові. У вересні 1921 р. секція наукових працівників була організована в Одесі, а в жовтні 1922 р. — у Києві.
Значних успіхів у цій справі досягла й Харківська СНП. Завдяки її зусиллям стипендія аспірантів у деяких інститутах міста досягла 180 крб. на місяць (рівень професорської зарплати в середині 20-х років). Практично в 20-і роки секції були єдиними організаціями, що постійно відстоювали матеріально-правові й професійні інтереси наукової та вузівської інтелігенції. Значний вклад вони вносили і в розв'язання житлової проблеми, вельми гострої для науково-викладацької інтелігенції того періоду. Незважаючи на ряд відповідних розпоряджень Раднаркому України, житлові права вчених, особливо старої професури, обмежувалися. СНП всіляко протестували проти таких дій. Їх представники брали участь у судових розглядах житлових конфліктів.