Позицію Султана Галієва, першого великого комуністичного діяча, арештованого в травні 1923.р. за «націоналістичний ухил», засудив з'їзд народів Сходу, який пройшов у вересні 1920 р. в Баку під егідою Комінтерну. Прихильники Султана Галієва мали намір перетворити Казань на столицю східного комунізму, використати велику Татаро-Башкирську державу як плацдарм для революційної експансії в Азії. Бакинський з'їзд повинен був дати поштовх початку великої визвольної боротьби пригноблених народів Сходу проти Заходу. Для радянських і європейських керівників Комінтерну звернення до Сходу потрібне було лише для того, щоб тимчасово допомогти західному промисловому пролетаріату в його боротьбі з буржуазією та ослабити європейські колоніальні держави. Визнання бакинським з'їздом першорядного значення революції на Заході зруйнувало надії татарських комуністів на «перманентну революцію» в Азії, яка дозволила б їм зіграти головну роль посередників між Комінтерном і революційними рухами Сходу. Обережні московські керівники вважали за краще позбавити голосу пантюркізм і забезпечити собі контроль над периферійними областями колишньої імперії, надавши їм обмежену автономію.
Другий шлях до союзного об'єднання лежав через двосторонні відносини між РРФСР і незалежними радянськими республіками. Складна система двосторонніх договорів поступово прив'язала ці республіки до РРФСР і звузила сферу їх компетенції. Так, підписані 30 листопада 1920 р. договори між РРФСР і Азербайджаном передбачали, що в дуже короткі терміни обидві республіки повинні були об'єднати свої зусилля в наступних шести галузях: оборона, економіка і зовнішня торгівля, продовольство, залізничний і річковий транспорт, пошта і телеграф, фінанси. Договір між РРФСР та Україною від 28 грудня 1920 р. принаймні на папері зберігав незалежність України, у неї ще залишався свій комісаріат закордонних справ. Після трьох років незалежного політичного життя не можна було не рахуватися з національними особливостями, і, крім того, український президент Раковський, як надто сильна особистість, не підходив на пост глави маріонеткової держави. У січні 1921 р. подібний договір повинен був бути підписаний між РРФСР та Білорусією, до якої завжди, принаймні формально, відносилися як до привілейованого партнера. У Грузії російські більшовики повинні були діяти ще більш делікатно, оскільки під час лютневого (1921 р.) «повторного завоювання» центральна влада і, головне, Ленін втратили ініціативу, підпавши під тиск військових і політичних діячів Закавказзя. 2 березня 1921 р. Ленін спеціально направив у Грузію Орджонікідзе па пошуки «прийнятного компромісу для блоку з Жорданія або подібними йому грузинськими меншовиками, які ще до повстання не були абсолютно ворожі до думки про радянський лад у Грузії на відомих умовах». Ленін писав, що «і внутрішні і міжнародні умови Грузії вимагають від грузинських комуністів не застосування російського шаблону, а вмілого і гнучкого створення своєрідної тактики». Незважаючи на ці здорові думки, центральні власті підштовхували всі три кавказькі республіки до найшвидшого об'єднання в Закавказьку республіку, яка в свою чергу підписала б договір з РРФСР. Грузинські комуністи - Махарадзе, Орахелашвілі, Мдівапі - різко чинили опір такому союзному об'єднанню, нав'язаному зверху Москвою і Кавбюро, яке було знаряддям центру проти національних комуністичних партій. Однак під тиском Орджопікідзе і Кавбюро на конференції, скликаній 11-12 березня 1922 р. в Тифлісі, був створений Союз республік Закавказзя, у ведення якого переходили зовнішні стосунки, оборона, фінанси, зовнішня торгівля, весь транспорт та економіка трьох республік. Ряд додаткових договорів, підписаних у наступні тижні, повинен був включити Закавказьку федерацію в економіку РРФСР і уповноважити останню представляти кавказькі республіки на міжнародній арені. Літом 1922 р. радянські керівники завершили об'єднання територій, до цього протягом п'яти років не пов'язаних між собою, у систему республік-планет, які обертаються навколо РРФСР. Залишалося тільки визначити принципи відносин всередині нової федерації. Це питання стало причиною серйозного конфлікту між Леніним і Сталіним.
У 1920 р. свою позицію з питання про майбутні відносини між радянськими республіками Ленін визначив так: «Федерація, яку ми вводимо... послужить найважливішим кроком до найбільш міцного об'єднання різних національностей Росії в єдиний демократичний центр - Радянську державу». Але якщо деякі республіки (наприклад, Білорусія) були готові розвивати ці зв'язки і згодні з таким розумінням федерації та її динаміки, то інші (наприклад, Грузія) саботували спільну діяльність. У Грузії розділення комуністичної партії на прихильників і противників федерації призвело до розриву договірних зв'язків, які насильно підтримувалися з центру. Тривалий кавказький конфлікт, труднощі па Україні спонукали Леніна прискорити процес федералізації. 10 серпня 1922 р. для підготовки проекту федеративної держави була створена комісія на чолі із Сталіним. Федерацію представляли Куйбишев, Молотов, Орджонікідзе, Раковський, Сокольников, а республіки -Огли (Азербайджан), М'ясникова (Вірменія), Черв'яков (Білорусія), Петровський (Україна), Мдівані (Грузія). Представлений 10 вересня проект, відомий як проект «автономізації», насправді означав поглинання республік РРФСР, уряд якої ставав на чолі федерації. Вірменія, Азербайджан і Білорусія прийняли цей проект, але українці, підтримані Раковським, і особливо грузини повністю його розкритикували. ЦК Компартії Грузії відкинув проект, наполягаючи на бажанні зберегти незалежність республіки. Ленін хворів і дізнався про проект і викликані ним суперечки лише наприкінці вересня. Засудивши «дуже поспішні» дії Сталіна, він відкинув ідею автономізації і запропонував абсолютно інший варіант, згідно з яким у федерацію об'єднувалися рівні республіки, а не підлеглі РРФСР. Для того, щоб ця рівність стала реальною, федеративні органи влади потрібно було поставити над республіканськими. Сталіну довелося переробити свій план згідно з ленінськими вказівками. 6 жовтня новий текст був схвалений Центральним Комітетом. Всім республікам гарантувалися рівні права всередині Союзу Радянських Соціалістичних Республік і кожній теоретично надавалося право вільного виходу із Союзу. Цей проект прийняли всі національні партії. Проте, грузинські керівники зажадали, щоб їхня республіка увійшла до Союзу самостійно, а не в складі Закавказької федерації, Сталін і його представник у Тифлісі Орджонікідзе чинили опір прямому входженню Грузії до Союзу, посилаючись на складну національну обстановку на Кавказі взагалі і в кожній з республік зокрема, щоб виправдати федеративну структуру цього регіону, необхідну для зняття міжнаціональної напруженості. Під час суперечок пристрасті так розгорілися, що Орджонікідзе вдарив одного із своїх співрозмовників. Дізнавшись про цей випадок і обурившись поведінкою Сталіна й Орджонікідзе, Ленін написав 30 грудня 1922 р. великого листа грузинським комуністам, де він оголошував війну великоруському шовінізму. За кілька днів до того, як хвороба остаточно усунула Леніна від політичної діяльності, він встиг відправити два листи. Один - Троцькому (від 5 березня 1923 р.), де він писав: «Я дуже просив би Вас узяти на себе захист грузинської справи на ЦК партії. Справа ця зараз знаходиться під «наглядом» Сталіна і Дзержинського, і я не можу покластися на їх неупередженість», і другий (від 6 березня 1923 р.) - до керівників грузинської компартії Мдівані та Махарадзе, в якому повідомляв, що всією душею стежить за їхньою справою. Того ж дня він повідомив Сталіну, який кілька місяців тому грубо повів себе з Надією Костянтинівною Крупською, що пориває з ним усі особисті стосунки.
Однак Політбюро і ЦК не звертали уваги на грузинський опір. 30 грудня 1922 р. 1 з'їзд Рад СРСР в основному затвердив Декларацію і Договір про утворення СРСР, підписані чотирма республіками (РРФСР, Україною, Білорусією, Закавказзям). Кожна республіка вже мала власну конституцію. Однак створення Союзу робило необхідним прийняття спільного документа, підготованого протягом 1923 р. конституційною комісією на чолі з Калініним і остаточно схваленого 11 з'їздом Рад СРСР 31 січня 1924 р. Конституція 1924 р. формально узаконювала союз рівноправних і суверенних націй. Вона проголошувала право республік на відділення і входження в СРСР нових соціалістичних республік, створених всередині країни або поза нею. У другій половині 20~х років сталися численні територіальні зміни. Утворилося кілька автономних республік і три союзні (Туркменія і Узбекистан, що до цього входили до складу РРФСР, і Таджикистан, який у 1929 р. відділився від Узбекистану). Значну частину своїх повноважень ці республіки передали союзним органам: міжнародне представництво, оборона, перегляд кордонів, внутрішня безпека, зовнішня торгівля, планування, транспорт, бюджет, зв'язок, гроші і кредити. Які ж органи були союзними?
Передусім, це був з'їзд Рад Союзу. Його вибори проходили на основі посереднього виборчого права з обмежувальними цензами, встановленими державою. Місцеві Ради обиралися безпосередньо чоловіками і жінками старшими 18 років. Виключення складали деякі категорії осіб, усунені від участі у виборах ще в 1918 р. За пірамідальною системою кожна Рада обирала потім делегатів (від міста у п'ять разів більше, ніж від села) в більш велику Раду - району, області, республіки, а потім на з'їзд Рад Союзу, який скликався раз на два роки. Останній у свою чергу передавав повноваження Центральному Виконавчому Комітету (ЦВК), що складався з двох законодавчих палат: Ради Союзу (приблизно 400 чоловік, які представляли союзні республіки пропорційно їх населенню) і Ради Національностей (приблизно 130 чоловік, по 5 від автономних або союзних республік і по одному від автономного округу, що компенсувало чисельну перевагу РРФСР в Раді Союзу). Збираючись три рази на рік, ЦВК передавав свої повноваження двом постійним паралельним органам: Президії ЦВК (що спочатку складалася з 21 чоловіка) і Раді Народних Комісарів (Раднаркому), виконавчому і адміністративному органу, наділеному ще й деякими законодавчими функціями. Народні комісаріати керували галузями народного господарства. За Конституцією були створені три види комісаріатів: союзні (закордонних справ, армії та флоту, зовнішньої торгівлі, шляхів сполучення, зв'язку); союзно-республіканські, існуючі одночасно па союзному і республіканському рівнях (економічні і соціальні питання); і республіканські, які розглядали справи, що не входили в компетенцію Союзу і об'єднаних органів (внутрішні справи, юриспруденція, народна освіта та інш.). Державне політичне управління (ДНУ), що замінило ВНК в 1922 р., мало статус союзного комісаріату.