Во главе партаппарата
В 1922 по инициативе Ленина и Каменева Сталин был избран на только что учрежденный пост Генерального секретаря ЦК РКП(б). Осторожный прагматик, талантливый технолог власти, он казался прекрасным исполнителем. Сталин должен был навести порядок в расстановке партийных кадров. В 1923 он ввел систему «номенклатуры», организовал аппарат партии, чиновники которого своим выдвижением были обязаны Сталину. Рост влияния аппарата в 1920-е гг. обеспечил Сталину успех во внутрипартийной борьбе.
Пользуясь болезнью Ленина, «триумвират» Сталина, Каменева и Зиновьева постепенно концентрировал власть в своих руках. В Сталине персонифицировалась в глазах Ленина опасность бюрократизма. Конфликт между Лениным и Сталиным проявился в вопросе о создании СССР. Сталин предложил план «автономизации», в соответствии с которым союзные большевистские государства должны были войти в Россию на правах автономных республик. Ленин выступил категорически против, предложив федерацию равноправных республик. Сталин, отвечавший за проведение национальной политики, вынужден был согласиться с Лениным. 30 декабря 1922 Сталин провозгласил образование СССР на его Первом съезде советов.
Но Ленин продолжал критиковать «автономизацию», считая, что на практике Сталин продолжает проводить «великодержавную политику», особенно в так называемом «грузинском деле» 1922, когда Сталин поддержал грубые действия Г. К. Орджоникидзе против подчиненных ему лидеров компартии Грузии. В своем письме к XII съезду партии Ленин писал: «Тов. Сталин, сделавшись генсеком, сосредоточил в своих руках необъятную власть, и я не уверен, сумеет ли он всегда достаточно осторожно пользоваться этой властью». Ленин предложил заменить Сталина на этом посту. Возвращение Ленина к политической жизни в апреле 1923 означало бы политическую смерть Сталина. В марте генсек, отвечавший за лечение вождя и фактически изолировавший его в подмосковных Горках, спровоцировал своей грубостью к жене Ленина Крупской острый личный конфликт с вождем. Возможно, Сталин пытался таким образом представить претензии Ленина как чисто личные. В ответ Ленин разорвал со Сталиным отношения. Но новый приступ болезни вывел Ленина из политической жизни.
Кончина Ленина в январе 1924 сделала Сталина одной из ключевых фигур в «коллективном руководстве» партией, которое сосредоточилось в руках так называемого «руководящего коллектива» - антитроцкистской фракции в Политбюро и ЦКК. Продолжая осуществлять расстановку кадров, Сталин обеспечивал своей фракции большинство во всех внутрипартийных дискуссиях 1920-х гг. В 1924-1925 гг., в момент наибольшего обострения отношений Троцкого с Зиновьевым и Каменевым, Сталин отказался поддержать предложение об исключении Троцкого из партии. Это обеспечило Сталину более сильные позиции в последовавшем вскоре конфликте с Зиновьевым и Каменевым. В ходе раскола «руководящего коллектива» в 1925 и образования «новой оппозиции» Сталин навсегда расходится с Зиновьевым и Каменевым, считая их наиболее опасными лидерами оппозиции. Генсек был организатором разгрома левой оппозиции во главе с Троцким и Зиновьевым.
Сталин заботился и о росте авторитета страны. В 1925 город Царицын был переименован в Сталинград. С 1925 Сталин – член Исполкома Коминтерна. Как теоретик Сталин вслед за Лениным обосновывал возможность построения социализма в одной стране. Первым серьезным международным кризисом, которым занялся Сталин, была Китайская революция 1925-1928 гг. В отличие от Троцкого, Сталин выступал против разжигания социальной борьбы в Китае, за постепенное укрепление позиций коммунистов в государственном и военном аппарате правящей в революционной зоне партии Гоминьдан (коммунисты входили в ее состав). В итоге коммунисты могли бы захватить власть путем переворота. Но в 1927 командующий армией Гоминьдана Чан Кайши внезапным ударом разгромил коммунистов. Попытки переломить ситуацию не удались – сталинская политика в Китае дала огромные плоды, левая оппозиция использовала китайскую катастрофу для обличения руководства Коминтерна и ВКП(б). В этих условиях Сталин изменил свою международную стратегию и вплоть до середины 1930-х гг. ориентировал коммунистические партии на  революционный курс, отказ от политики союзов.
В экономической стратегии Сталин до 1928 следовал за Н. И. Бухариным, надеясь, что постепенное развитие хозяйства на рыночной основе даст достаточные ресурсы для индустриального роста и достаточного уровня обороноспособности в условиях «империалистического окружения». Кризис НЭПа показал, что эти надежды не оправдались. Очередная неудача хлебозаготовок в конце 1927 убедила Сталина и его сторонников в том, что модель НЭПа не позволяет осуществить модернизацию производства, без чего было невозможно и сохранение большевистской монополии на власть. «Чрезвычайные меры» по изъятию хлеба дали государству продовольствие в 1928, и не отбили у крестьян желание производить его. Производство хлеба упало. Действия Сталина вызвали острый конфликт в руководстве. Против Сталина выступила сильная коалиция умеренных большевиков – Бухарин, А. И. Рыков, М. П. Томский и др. Но они не решились пойти на открытое противостояние, которое могло бы расколоть партию. В этой скрытой аппаратной борьбы Сталин одержал победу, перетянув на свою сторону большинство ЦК, и в 1929 добился осуждения своих противников как «правого уклона».