Только спустя век, в 1685 году, церковь была построена и передана иезуитам. Там был, по свидетельствам современников, необычайной красоты богато декорированный главный алтарь, похожий на тот, что сейчас находится в городе Дагде. Церковь простояла два столетия и сгорела от удара молнии в 1887 году. На следующий год началось строительство нового костела, в котором проводились службы с 1889 года, а внутреннее убранство завершено в 1902 году. Тяжелые тектонические формы костела Святого Сердца напоминают северную готику. Своды деревянные. В плане храм крестообразый, с полигональной апсидой.
У древних границ Ливонии с Русью, в городе Лудзе, сохранились остатки Люцинского замка, возведенного, по одной версии, в 1285 году рыцарем Конрадом фон Торбергом, по другой – в 1399 году магистром ордена Ванневаром фон Брюггенеем. Разночтения объясняются тем, что северный фасад замка и первый этаж главного здания выложены в кирпиче, который вытеснил камень в ХIV в. Он построен на высокой косе между двумя озерами в виде нагорного башенного замка, который был дополнен пристройкой, напоминающей конвентский дом, и крепостной стеной обширного предзамка, достигавшей в высоту 4 метров. Суровость постройки башни смягчается скромным украшением: диагональными полосами черного кирпича и оштукатуренным архаичным фризом. Бурная до 50-х гг. ХVП века история замка, с осадами и разрушениями, когда он переходил из рук в руки, возвращался Московским княжеством Польше в 1582 году, укреплялся, приходил в упадок, снова захватывался (русским воеводой Львом Салтыковым в 1654), окончилась возвращением его Польше по Оливскому трактату 1660 года. На крутом холме, у входа в бывший предзамок, находится усыпальница семьи люцинских магнатов Карницких - восьмигранная каплица (18 в.), типичная для деревянного зодчества конца 17-18 вв. своей октогональной формой и дощатой обшивкой сруба, продольно распиленными бревнами. На том же холме стоит фигура Мадонны с надписью на постаменте: «Царица земли Марианской», что напоминает о посвящении Ливонии Пресвятой Богородице.
Напротив замка, на берегу озера, находится обширная деревянная усадьба рыцаря уже более близкой нам эпохи – 18-19 веков – первого героя-полководца войны 1812 года Якова Петровича Кульнева. Он участвовал во второй турецкой войне (1787-1791), в польской и шведской кампаниях, считал себя учеником Суворова, живя «по-дон-кишотски», разделяя его мысли о простоте, мужестве, правдивости и гуманности как необходимых качествах военачальника. Я.П. Кульнев стал известен в 1807 году, когда он, произведенный в подполковники, сражался во главе полка с французами у деревни Анкендорф в Пруссии и предпринял «невозможную» переправу через реку Пассаргу, уничтожил неприятельский обоз с оружием и под завесой дыма вернулся к своим. Смелость, доходящую до дерзости, он проявил и во время перехода по льду Балтийского моря и захвата Ааландских островов, затем захвата подступов к Стокгольму и, в особенности, во время Отечественной войны 1812 года, когда он переправился через Дриссу, преследуя главные силы маршала Удино, и во время боя, чтобы вселить мужество в отступавших под натиском противника солдат, сошел с коня и шел в цепи стрелков и гусар. Он был ранен, французские кирасиры бросились на упавшего генерала, но гродненские гусары его отбили. Умирающий генерал сказал им: «Друзья, не уступайте ни шага родной земли. Победа вас ожидает». Наполеон сравнил его с одним из своих самых талантливых генералов, Лассалем. Кульнев, чей девиз был «предпочитать честную смерть бесчестной жизни», был из тех, кого уважают не только свои, но и противники.
На высоком обрывистом берегу Западной Двины в 1275 году магистр Ливонского ордена Эрнест фон Ратцебург основал замок Динабург. Это была резиденция одного из восьми наместников Ливонского ордена – комтура динабургского. Цитадель не раз оказывалась добычей то русских, то литовских, то польских войск. С 1561 года Динабург становится центром польской Ливонии – Инфлянтского воеводства. Замок был захвачен войсками Ивана Грозного во время его войны с польским королем Стефаном Баторием. Царь устроил здесь свою штаб-квартиру и, уезжая, поручил замок коменданту полковнику графу Вильгельму Плятеру, который, напоив русский гарнизон, открыл ворота перед войсками польско-литовского гетмана Ходкевича. Стефан Баторий построил в 1582 году новую крепость ниже по течению Даугавы, на реке Шунице, которая соединяла Шуньское озеро с Западной Двиной; но и она подвергалась нападениям, в том числе «ратных людей» царя Алексея Михайловича, которые в 1656 году «город Динобург взяли, и дворы и костелы выжгли, а немецких людей высекли, и наряд и всякие пушечные запасы поимали», - как писалось в разрядной книге. Город, захваченный в праздник страстотерпцев Бориса и Глеба и названный в честь них Борисоглебск, был через четыре года по Оливскому трактату возвращен Польше, а стены крепости были постепенно разобраны на строительство новых укреплений. В 1772 году Динабург был присоединен к России, которая тоже стала строить здесь крепость – на берегу Западной Двины. В ее проектировании участвовал известный русский архитектор В.П. Стасов. Назначением крепости было прикрывать юго-западные подступы к Петербургу. Почти четверть века строились эти укрепления. Во время Отечественной войны 1812 года строители крепости вынуждены были отступить перед натиском Второго французского корпуса маршала Удино. Русские отбили атаки корпуса генерала Марселина Марбо в первой половине июля 1812 года, но по приказу об отступлении во второй половине июля защитники оставили крепость, и ее заняли войска генерала Рикорда, который приказал срыть укрепления и разрушить начатые постройки. После войны ее восстанавливали и достраивали по всем правилам инженерного искусства. Крепость особенно любил император Николай I. По его приказу был учрежден крестный ход из крепостной церкви по валам. Здесь провел четыре года в заключении декабрист и поэт Вильгельм Карлович Кюхельбекер (1797-1846), который был приговорен, вместо смертной казни, к 15 годам заключения. Он начал свои мытарства в Петропавловской крепости, потом был переведен в Шлиссельбург и затем в Динабург. Комендант крепости Егор Криштофович выхлопотал узнику разрешение читать и заниматься, доставал ему книги, позволял прогулки по территории цитадели и встречи с матерью. Пушкин, старый лицейский товарищ Кюхельбекера, просил о разрешении посылать ему книги и вести с ним переписку, но власти отказали; позднее Жуковский смог добиться разрешения. По ходатайству великого князя Михаила Павловича время заключения В.К. Кюхельбекера было сокращено на пять лет, в 1835 году он покинул крепость и был отправлен на поселение в Восточную Сибирь. Но лишь в первое время после освобождения он действительно наслаждался вольной жизнью. Его сын Михаил писал, что «мелочные житейские дрязги, заботы о куске хлеба заставили его вздыхать по уединенной келье Динабурга или Свеаборга».
В тех же крепостях, в том числе и Динабургской, позднее сидел и другой узник – участник покушения на царя Александра П, член исполкома партии «Народная воля» Николай Александрович Морозов (1854-1946), приговоренный к пожизненной каторге в 1882 году, освобожденный в революцию 1905 года, ставший ученым (труды по химии, математике, астрономии, физике, истории) и писателем (стихи, повести, двухтомные воспоминания «Повести моей жизни», 1965).
В 1863 году в Динабургской крепости был повешен участник польского восстания граф Леон Плятер, потомственный владетель латгальских земель.
В крепости был костел иезуитов, построенный в 1746-1769 годах, один из лучших образцов латгальского барокко. Он был заложен в одно время с иезуитской коллегией, располагавшейся на месте нынешней крепости. В плане костел представлял собой трехнефную базилику, средний неф которой, более высокий, был крыт мощным цилиндрическим сводом с парусами, а боковые – крестовыми сводами. Пресбитерий был встроен в неф, по бокам его находились ризница и баптистерий (крещальня).
К сожалению, этот замечательный памятник не сохранился в своем первоначальном виде. Когда был решен вопрос о строительстве новой крепости, храм вместе с коллегией перешел в казну, позже его обратили в православный гарнизонный собор с соответствующими перестройками, был убран изящный щипец над восточным фасадом, а мансардообразная крыша заменена покрытием более простой формы. Когда папа Климент ХIV своей буллой 1773 года распустил орден иезуитов, одним из прибежищ опального ордена стал Динабургский замок, куда стали съезжаться недовольные решением папы иезуиты из других стран Европы. Екатерина П взяла их под свое покровительство «в той надежде... что они хотят посвятить себя распространению просвещения». Для Латгалии было характерно, что именно в руках иезуитов находилось духовное и светское просвещение населения. Первый печатный текст на латгальском языке – «Отче наш» - появился в середине 16 в., в 1585 году был напечатан катехизис. До запрета в 1865 году, в связи с польским восстанием, книгопечатания вышло больше 50 книг. Иезуиты держали также школы и духовные семинарии, заботясь об обучении людей латгальскому языку. В 1761 году в Динабурге открылась гимназия. В 1893 г. город стал называться Двинском, в 1918 году - Даугавпилсом, что по-латышски означает «город на Даугаве»; он является крупным речным портом Латвии.
Но вернемся к истории третьего периода латышского средневекового зодчества, ко времени готики. В конце 13-15 вв. зальные храмы преобразуются в базилики и расширяются; и при завершении культовых сооружений чаще используются формы, близкие североевропейской кирпичной готике. Благодаря применению смешанных каменно-кирпичных конструкций детали построек приобретают упрощенный характер, а объемы – обобщенный абрис. Высшим достижением латышской готической архитектуры, синтезированной с ранним барокко, является церковь св. Петра в Риге, которая после пристройки нового хора по типу французского, в формах, близких Мариенкирхе в Ростоке, получила к середине 15 в. вид огромной зальной базилики, с высотой среднего нефа 30 м, замыкавшейся кольцевым обходом (деамбулаторием) с венцом капелл (ростокский зодчий И.Румешоттель). Церковь стала главной доминантой в панораме старого города. Она строилась как главный приходский храм Риги. Впервые она упоминается в 1209 г. Здание 13 века, от которого сохранились фрагменты кирпичного трехнефного сооружения в западной части, родственно архитектуре рижского собора св. Марии своими крестовидными опорами, одинаковой шириной нефов и др. Видны следы предринятой затем надстройки среднего нефа, чьи стены снаружи прорезаны уступчатыми проемами и декорированы аркатурным фризом стрельчатой формы. Новый хор с деамбулаторием, завершенный И.Румешоттелем в 1409-1409 г., в 1456-1466 гг. объединили с частично перестроенной церковью, были возведены звездчатые своды в промежуточных травеях боковых нефов. После того как в 1666 г. рухнула западная башня 15 в. западный фасад был заново выстроен в своеобразных барочных традициях (начат в 1671 г. архитектором Я.Йостеном, окончен архитектором Р.Бинденшу в 1692 г.) и стал очень высоким (ок. 122 м), с преобладанием не заполненных декором поверхностей. Новый фасад, облицованный ракушечником, завершен щипцом в обрамлении волют, над ним возведена восьмигранная башня с деревянным шпилем, состоящим из трех купольных ротонд-галерей, уменьшающихся кверху, и остроконечного шпица (высота деревянного шпиля ок. 70 м). Эта композиция скрыла бывшую готическую постройку. В конце 17 в. декор фасада дополнили пышными порталами, вытесанными по рисунку Бинденшу из светлого доломита и украшенными библейскими и аллегорическими фигурами работы скульпторов И.Д. Шау и И.Гервина. В 1721 г. башня сгорела, но была восстановлена в прежнем виде в 1733-1747 гг., ее шпиль обшили медными листами. В 1941 г. церковь была разрушена, а в 1967-1983 гг. ее реставрировали (архитекторы П.Саулитис и Г.Зирнис) с применением новейших конструкций (шпиль представляет собой стальной каркас, своды среднего нефа решены в виде железобетонной оболочки) и воссозданием архитектурной отделки средневекового периода. Реставрации подверглись и часть предметов убранства церкви, принадлежавшего к эпохе барокко и классицизма: усыпальница членов общества «Голубая гвардия» (1743, в позднебарочном стиле), плоскости фасада усыпальницы Брокхаузена (начало 18 в.) и усыпальницы Фишера (1736).