В 1921 году Сунь Ятсена избрали чрезвычайным великим президентом Китайской Республики. В следующем году Цзян Чжунчжэн помог Сунь Ятсену подавить военный мятеж. После этого момента президент начал видеть в нем преемника, называя Цзян Чжунчжэна своим младшим братом.
В 1923 году Сунь Ятсен пришел к выводу о необходимости создания своих вооруженных сил и отправил Цзян Чжунчжэна в Москву с целью наладить взаимодействие, в том числе и военное сотрудничество с нашей страной. Во время пребывания в Москве Цзян Чжунчжэн встречался с одним из двух тогдашних вождей коммунистической партии Л.Д. Троцким (но не виделся с И.В. Сталиным), а также с руководителем Коминтерна Г.Е. Зиновьевым, наркомом иностранных дел Г.В. Чичериным. Он даже начинал изучать русский язык. Находясь в Москве, Цзян Чжунчжэн пришел тогда к выводу о том, что молодая советская республика действительно не уступает другим как в разработке новейших видов вооружений, так и вообще в военном деле. Поэтому у него родилось, с одной стороны, понимание необходимости считаться с военной силой северного соседа Китая, с другой – желание использовать знания наших военных специалистов и наше вооружение в своих целях.
Это, однако, никак не означало согласия Цзян Чжунчжэна с политическими взглядами людей в Москве и доверия к нашей стране. Возвратившись в Китай, он доложил Сунь Ятсену о том, что, по его мнению, РКП(б) стремится превратить КПК в свой послушный инструмент, что коммунизм советской России при своем осуществлении всенепременно будет наносить вред человечеству и что «сегодняшний друг», то есть советская Россия, и есть «наш будущий величайший враг». Сунь Ятсен в этой связи считал, что Цзян Чжунчжэн высказывал «слишком много сомнений». Он, конечно же, учитывал соображения Цзян Чжунчжэна и в то же время считал необходимым, во всяком случае, на том этапе исторического развития, поддерживать союзные отношения и с нашей страной, и с китайскими коммунистами.
В 1924 году Сунь Ятсен решил создать школу для подготовки армейских кадров близ Гуанчжоу. При этом, оценивая Цзян Чжунчжэна как военного специалиста, знакомого с армиями и Японии, и России, он назначил его начальником военной школы Вампу и одновременно начальником генерального штаба. В этой школе Цзян Чжунчжэн работал в тесном взаимодействии с советскими военными и политическими советниками.
