У 1872 році в Чернівцях було засновано ще й «Männergesangverein» («Чоловіче співацьке товариство»). Тоді ж виникла і румунська «Armenia» («Гармонія»), при якій організувався духовий оркестр і клуб цитри.
Подальша діяльність співацьких товариств, як і розвиток усього мистецького життя, вимагали спорудження в Чернівцях приміщення, яке б відповідало всім вимогам концертного залу. З ініціативи любителів музики ще в 1868 році обирається комітет, котрому доручається розв'язати всі питання, пов'язані з підготовкою та будівництвом приміщення. Але тільки через п'ять років (1873) вдалося одержати необхідний дозвіл і земельну ділянку під майбутню споруду.
В 1875 році керівником «Музичного товариства» було запрошено з Праги чеха Адальберта (Войтеха) Гржімалі (1842—1908), вже відомого музичного діяча. Діяльність А. Гржімалі, безперечно, сприяла прискоренню наміченого будівництва: у квітні 1876 року розпочалися земляні роботи, а вже у травні в урочистій обстановці було закладено першу цеглину фундаменту .будинку. На честь цієї події поет Ернст Рудольф Нойбауер написав вірша, а Гржімалі поклав його на музику. Цей спільний твір під назвою «Хвала музиці» виконувався при закладанні фундаменту. В залі готелю «Чорний орел» відбувся великий концерт із творів Ф. Шуберта, Ф. Шопена, Й. Баха, Л. Бетховена, Ш. Гуно, виконувались також композиції К. Мікулі та А. Гржімалі. Серед присутніх були гості з Львівської консерваторії, а між ними і Карл Мікулі.
У грудні 1877 року знову відбулося музичне свято — цього разу вже з нагоди закінчення будинку і передачі його в користування «Музичному товариству» (нині Обласна філармонія). Поет Е. Нойбауер присвятив цій події свій віршований пролог, до якого А. Гржімалі написав музику. Крім того, А. Гржімалі виконав на скрипці п'єси ф. Шуберта, К. Вебера та інших класиків. Нове приміщення «Музичного товариства» спочатку виглядало досить примітивно. Лише згодом віденський професор живопису Карл Іобст розписав і оздобив стіни залу. Будинок «Музичного товариства» став центром мистецького життя Буковини.
На запрошення А. Гржімалі у 1879 році до Чернівців вперше завітав видатний російський піаніст, композитор і диригент Антон Григорович Рубінштейн. На концерті, влаштованому 18 січня в будинку «Музичного товариства», він виконав увертюру «Егмонт» Л. Бетховена, «Рондо» В. А. Моцарта, арії та варіації Г. Генделя, Ноктюрн та Варіації Ф. Шопена, композиції Р. Шумана і Ф. Ліста, власні твори (Баркаролу та етюди).
Правда, з творчістю А. Рубінштейна буковинські шанувальники музичного мистецтва познайомилися раніше. Уже в 1863 році в Чернівцях було виконано його «Асру», в 1875 — сонату, ор. 19 для скрипки і фортепіано. У 1878 році тут прозвучав і «Вальс-каприс», який композитор присвятив героям російсько-турецької війни 1877— 1878 pp. Та особиста зустріч з представником російського музичного мистецтва стала справжньою подією в культурному житті краю. Буковинці вперше познайомилися з російською виконавською школою. Це пожвавило інтерес громадськості до творів інших російських композиторів, сприяло дальшому розвитку творчих контактів. Ще наприкінці XIXст. чернівчани слухали твори великого Чайковського, зокрема його Тріо ля мінор, ор. 50 для фортепіано, скрипки та арфи («Радянська Буковина», 15 січня 1984 року).
У 1882 році широко й урочисто відзначався 20-річний ювілей «Музичного товариства». В цій події діяльну участь взяли українське студентське товариство «Союз», румунська «Armenia», представники Львівської консерваторії (з ними і цього разу прибув Карл Мікулі). Двадцятирічна діяльність товариства мала велике значення для розвитку музичної культури на Буковині.
Відтоді настає тривале пожвавлення в усьому мистецькому житті краю, під знаком якого вшановувалися 25-річчя (1887) і 30-річчя (1892) товариства. Чернівчанам були під силу досить складні завдання. У 1877 році в міському театрі поставлено оперу А. Гржімалі «Зачарований принц», яка перед цим побачила світло рамп в чеському Національному театрі. А. Гржімалі вів велик, і плодотворну роботу по підготовці мистецьких сил у Чернівцях, популяризації класичного мистецтва. З його шко ли вийшло чимало співаків, скрипалів, піаністів. Він буї хорошим керівником і талановитим педагогом, плідно працював як композитор. У січні 1897 році на честь цього заслуженого діяча в чернівецькому міському театрі було поставлено іншу його оперу — «Швандя-дудак» («Вальде, сільський музика»), котру роком раніше грали в Чехії, в рідному місті композитора — Пльзені. Вистава одержала схвальні відгуки публіки та критики.
Цікаво зазначити, що під час ювілею завдяки безприкладним зусиллям А. Гржімалі було виконано Дев'яту симфонію Бетховена та ряд інших творів. У рецензіях на концерт відзначалося, що виступити в Чернівцях з цією симфонією було великим риском. І те, що виконання цілком вдалося, є безперечним доказом високого мистецького рівня, досягнутого товариством під орудою Адальберта Гржімалі.
Діяльність А. Гржімалі залишила глибокий слід у музичному житті не лише Чернівців, а й усього краю. Буковинські українці з повагою і любов'ю ставились до свого «брата-слов'янина», котрий завжди виявляв щирі симпатії до українського народу і його культури. На маючи змоги ввести до репертуару німецького товариства українські пісні (за тих часів це зовсім виключалося), Гржімалі не раз брав участь у концертах українських товариств, сприяючи цим розвиткові нашої переслідуваної культури. До приїзду в Чернівці він працював диригентом симфонічних оркестрів.у Роттердамі (Голандія) і Гртенбурзі (Швеція), згодом повернувся на батьківщину, де спочатку очолив симфонічний оркестр чеського Національного театру, потім був другим диригентом німецького театру в Празі.
Перебуваючи в Чернівцях, А. Гржімалі вів у музичній школі класи скрипки, фортепіано, співу і гармонії, сам був добрим виконавцем-інструменталістом, диригентом хору і оркестру. У «чернівецький» період з-під пера композитора вийшли чотири кантати, концерт для скрипки з оркестром, опера «Швандя-дудак» та інші твори. Деякі з них виконувались у Львові, Відні, Празі та інших містах. Зарекомендував себе Гржімалі в Чернівцях і як музичний критик, систематично виступаючи на сторінках німецької преси. Він є також автором книги «Тридцять років музики на Буковині» (1874—1904). Останні роки свого життя Гржімалі успішно викладав музику в Чернівецькому університеті. Помер у Відні.
Певну роль у музичному житті Буковини відіграв і -видатний композитор, талановитий скрипаль, один з основоположників румунської класичної музики Чіпріян Порумбеску (народився 14 жовтня 1853 року в с. Шипіт на Південній Буковині, помер 6 червня 1883 р. в Румунії). Після закінчення навчання у Сучавській гімназії в 1873 році він приїздить до Чернівців, де продовжує освіту в семінарії. Важливе значення для творчої біографії цього митця мав Сидір Воробкевич. Будучи талановитим педагогом, він допоміг молодому Порумбеску розкрити свій хист, удосконалити майстерність.
За коротке життя Порумбеску написав понад 200 музичних творів, на які благотворно вплинув народний румунський і молдавський мелос. У музичній спадщині композитора, крім пісень, є оперети, а також інструментальні твори, що принесли йому світове визнання. Частину своїх патріотичних творів («Плевна», «Сержант», «Пенеш Кур-канул») Порумбеску присвятив бойовому побратимству російських і румунських солдатів у війні 1877—1878 pp. проти турецьких загарбників, у результаті якої Румунія вперше здобула свою національну незалежність. Деякі пісні композитора, а також оперета «Кандидат Лінте», написані в Чернівцях, гостро викривали чиновників і панівні класи Австро-Угорської монархії. Серед творів Порумбеску, які виконувались у Чернівцях, тодішня німецька і румунська преса згадує оперету «Новий місяць».
У другій половині XIXст. на Буковині розгортається концертна діяльність, одне за одним виникають українські музичні товариства, з'являються місцеві українські композитори. В 1869 році у Чернівцях створюється культурноосвітнє товариство «Руська бесіда». Воно часто влаштовувало музично-декламаційні вечори, на яких аматори виступали зі співами, читанням віршів і гуморесок. Звучала музика і на вечорах танців та ювілейних святах.