В 1920 году Сельскохозяйственный научный комитет, во главе с его председателем В. И. Ковалевским, избрал Николая Вавилова заведующим Отделом прикладной ботаники и селекции в Петрограде, и в январе 1921 года он почти со всеми своими саратовскими учениками покинул Саратов. Научная работа на новом месте началась с большим размахом.
С 1921 года Вавилов заведовал Отделом прикладной ботаники и селекции в Петрограде, который в 1924 был реорганизован во Всесоюзный институт прикладной ботаники и новых культур, а в 1930 — во Всесоюзный институт растениеводства (ВИР), руководителем которого он оставался до августа 1940.
Голод в Поволжье 1921—1922 годов заставил российских учёных изменить направление исследований.
Отправившись вместе с А. А. Ячевским по поручению Наркомзема РСФСР в США для участия в переговорах о закупке семян, Вавилов одновременно обследовал обширные зерновые районы США и Канады и выступил на Международном конгрессе по сельскому хозяйству с сообщением о законе гомологических рядов. Положения закона, развивавшего эволюционное учение Ч. Дарвина, были положительно оценены мировой научной общественностью. В Нью-Йорке было основано отделение Отдела прикладной ботаники.
На обратном пути Вавилов посетил ряд европейских стран (Англия, Франция, Бельгия, Голландия, Швеция), где встречался с учёными, установил новые научные связи, знакомился с научными лабораториями и селекционными станциями, организовал закупки сортового семенного материала, книг, научного оборудования.
Так, например, в 1922 году Вавилов в Голландии встретился с Гуго де Фризом (основателем мутационной теории). Ознакомившись с научными изысканиями голландца, Вавилов, вернувшись в Россию, выступил за вовлечение науки в создание сортовых ресурсов страны, продолжил расширение Отдела прикладной ботаники, стремясь превратить его в крупный центр сельскохозяйственной науки, приглашал учёных из других городов. Работа была направлена на выявление мирового разнообразия культурных растений с целью дальнейшего использования его для нужд страны. В 1923 году Вавилов был избран членом-корреспондентом АН СССР в отделение физико-математических наук (по разряду биологическому).
В 1923 году Вавилова избрали директором Государственного института опытной агрономии.
В 1924 году под руководством учёного на всей территории СССР была заложена и стала расти сеть опытных станций по сортоиспытанию сельскохозяйственных культур. В 115 отделениях и опытных станциях, в различных почвенно-климатических условиях СССР — от субтропиков до тундры — шло изучение и испытание разных форм полезных растений.
С 1924 по 1927 год был проведён ряд внутрисоюзных и зарубежных экспедиций — Афганистан (Вавилов вместе с Д. Д. Букиничем первыми из европейцев проникли в Нуристан — высокогорную провинцию Афганистана, в то время закрытую для иноземцев), Средиземноморье, Африка, в ходе которых Вавилов продолжал пополнять коллекцию образцов и изучение очагов возникновения культурных растений.
Вавилов писал:
Путешествие было, пожалуй, удачное, обобрали весь Афганистан, пробрались к Индии, Белуджистану, были за Гиндукушем. Около Индии добрели до финиковых пальм, нашли прарожь, видел дикие арбузы, дыни, коноплю, ячмень, морковь. Четыре раза перевалили Гиндукуш, один раз по пути Александра Македонского. <…> Собрал тьму лекарственных растений <…>
Отчёт об экспедиции объёмом 610 страниц стал основой книги «Земледельческий Афганистан», написанной Вавиловым совместно с Д. Д. Букиничем. В этой книге подтверждено предположение Вавилова о том, что в Афганистане находятся центры происхождения некоторых важнейших для человека растений.
За экспедицию в Афганистан Географическое общество СССР присудило Николаю Вавилову золотую медаль имени Н. М. Пржевальского — «за географический подвиг».
В 1925 году последовали экспедиции в Хивинский оазис и другие сельскохозяйственные районы Узбекистана.
В 1926—1927 годах Вавилов совершил экспедицию по странам Средиземноморья. Исследовательские работы им были проведены в Алжире, Тунисе, Марокко, Ливане, Сирии, Палестине, Трансиордании, Греции, Италии, Сицилии, Сардинии, Крите, Кипре, южной части Франции, Испании, Португалии, затем во Французском Сомали, Абиссинии и Эритрее. На обратном пути Вавилов ознакомился с земледелием в горных районах Вюртемберга (Германия). Караванные и пешие маршруты в этой экспедиции составили около 2 тысяч км. Семенной материал, собранный Вавиловым, исчислялся тысячами образцов.
В середине 1920-х годов Вавилов сформулировал представления о географических центрах происхождения культурных растений — в 1926 году он опубликовал труд «Центры происхождения культурных растений», за который ему была присуждена Премия имени В. И. Ленина. Теоретический труд учёного дал научную основу для целенаправленных поисков полезных растений, был использован в практических целях.
В 1927 году Вавилов выступил на V Международном генетическом конгрессе в Берлине с докладом «О мировых географических центрах генов культурных растений», на конференции экспертов по сельскому хозяйству в Международном аграрном институте в Риме — с докладом «Географические опыты по изучению изменчивости культурных растений в СССР». Конференция приняла решение присудить Вавилову Золотую медаль за его работы по географическим посевам и постановила ввести географические посевы по системе Вавилова в мировом масштабе.
В 1929 году Вавилов с целью изучения особенностей сельского хозяйства совершил экспедиции в страны Восточной Азии: вместе с М. Г. Поповым — в северо-западную часть Китая — Синьцзян, а в одиночку — в Японию, на Тайвань и в Корею.
В 1929 году Вавилов был избран действительным членом АН СССР и одновременно академиком Всеукраинской академии наук, назначен президентом Всесоюзной академии сельскохозяйственных наук имени В. И. Ленина (ВАСХНИЛ), организованной на базе Государственного института опытной агрономии, который Вавилов возглавлял с 1923 г. Здесь он направил свою энергию на организацию системы научных институтов сельскохозяйственного профиля. За первые три года работы Вавилова на посту президента ВАСХНИЛ были созданы институты зернового хозяйства на Северном Кавказе, в Сибири, на Украине и юго-востоке европейской части страны, появились институты овощного хозяйства, плодоводства, прядильных лубо-волокнистых растений, картофельного хозяйства, риса, виноградарства, кормов, субтропических культур, лекарственных и ароматических растений и другие — всего около 100 научных учреждений. Всесоюзный институт растениеводства стал одним из головных институтов новой академии.
На V Международном ботаническом конгрессе, проведённом в 1930 году в Кембридже, учёный выступил с докладом «Линнеевский вид как система». Он выступал также на IX Международном конгрессе по садоводству в Лондоне.
Коллекция початков кукурузы в кабинете Николая Вавилова в Всероссийском институте растениеводства.
В 1930 году Вавилов создал и возглавил Генетическую лабораторию АН СССР в Москве (в 1933 году преобразована в Институт генетики АН СССР, который Вавилов возглавлял вплоть до своего ареста в 1940 году). В 1930 году организовал II Международный конгресс почвоведов в Москве, участвовал (по приглашению Корнелльского университета, США) в Международной конференции по сельскохозяйственной экономике, а после неё совершил экспедицию по американскому континенту: он объехал все южные штаты США от Калифорнии до Флориды, пересёк двумя маршрутами горные и равнинные районы Мексики, Гватемалу.
В 1931 году Вавилов возглавил Всесоюзное географическое общество и оставался в должности его президента до 1940 года.
В 1932 году Вавилова выбрали вице-президентом VI Международного конгресса по генетике, проведённого в Итаке. На нём была представлена коллекция ВИРа, собранная во время последней американской экспедиции. После конгресса он объехал ряд провинций Канады и затем полгода обследовал земледельческие районы стран Центральной и Южной Америки: Сальвадора, Коста-Рики, Никарагуа, Панамы, Перу, Боливии, Чили, Аргентины, Уругвая, Бразилии, Тринидада, Кубы, Пуэрто-Рико и других, всего — 17 стран.
Вавилов заботился о своевременной публикации результатов исследований руководимых им коллективов. Под его редакцией и при его участии выходили «Труды по прикладной ботанике, генетике и селекции», начали издаваться многотомные сводки «Культурная флора СССР» и «Биохимия культурных растений», было издано руководство «Теоретические основы селекции растений» (1935), «Руководство по апробации сельскохозяйственных культур», большое количество сборников и монографий. Вавилов создал целую школу исследователей культурных растений, заслужившую признание в мировой науке.
Тем временем, однако, с 1934 года Вавилову был запрещён выезд за границу, было отменено намечавшееся празднование 10-й годовщины создания ВИР и 25-летия его собственной научной и общественной деятельности. На заседании СНК СССР работу ВАСХНИЛ признали неудовлетворительной, в январе 1935 года кандидатуру Вавилова не выдвинули в состав ЦИК СССР и ВЦИК, и в этом же году его освободили от должности президента ВАСХНИЛ, чему предшествовало письмо Сталину с политическими обвинениями в адрес Вавилова, подписанное вице-президентом ВАСХНИЛ А. С. Бондаренко и парторгом академии С. Климовым[24]. В своём письме Бондаренко и Климов вменили Вавилову в вину не только «академизм» и оторванность от практических нужд колхозно-совхозного строительства сельского хозяйства, но и «политическую близорукость»: «Вавилов всегда горой стоит за вредителей …Не было случая, чтобы Вавилов о ком-либо из установленных вредителей … сказал, что они преступники».
В 1939 году Вавилов возглавил сельскохозяйственную группу Северо-Кавказской комплексной экспедиции Академии наук СССР. Пройдя по Военно-Осетинской дороге, он посетил и исследовал Цейский ледник и Мамисонский перевал.