Детство и юность
Родился в семье крестьянина, переселенца из слободы Кукарка Вятской губернии, Яранского уезда, Ивана Ильича Рыкова. Его отец занимался земледелием, потом торговлей в Саратове. В 1889 году отец Рыкова уехал на заработки в Мерв где умер от холеры, оставив семью из 6 человек, состоящую из детей от первого и второго брака.
Детство Рыкова прошло в нужде. Мачеха могла прокормить только своих родных детей. Старшая сестра Клавдия Ивановна Рыкова, служившая в конторе Рязанско-Уральской железной дороги и занимавшаяся частными уроками, взяла на свое попечение мальчика и помогла ему поступить в 1892 в Саратовскую 1-ю классическую гимназию. Позже, когда 13-летний Рыков был переведен в старшие классы гимназии, он уже сам зарабатывал частными уроками. Любимыми предметами Рыкова в гимназические годы были математика, физика и естественные науки.
В 4-м классе гимназии, в 15 лет Рыков перестал посещать церковь и исповедоваться, чем вызвал огорчение и упреки со стороны гимназического начальства, несмотря на это ценившего Рыкова за блестящие успехи в учебе.
Революционная деятельность
Еще в гимназии Рыков увлекся революционными идеями, в связи с чем имел неприятности с полицией. Так, накануне выпускных экзаменов в доме Рыковых был произведен обыск на предмет поиск нелегальной литературы. В годы молодости Рыкова Саратов был «ссыльным городом», местом где отбывали ссылку за политические взгляды. В городе было несколько революционных кружков, в работе которых Рыков принимал самое активное участие. Значительное влияние на Рыкова в эти годы оказал известный деятель партии социалистов-революционеров Ракитников Николай Иванович. Знакомство со старым народовольцем Валерианом Балмашёвым, подвигло Рыкова заняться изучением крестьянского движения. С сыном Балмашёва Степаном, убившим в 1902 году министра внутренних дел Сипягина, Рыков был в приятельских отношениях.
Революционные взгляды Рыкова стали причиной «четверки» за поведение в аттестате. Последнее обстоятельство закрыло перед Алексеем Ивановичем двери в столичные университеты и ему пришлось поехать продолжать образование в Казань, где в 1900 он поступает на юридический факультет Казанского университета.
В том же году 19-летний студент Рыков сразу входит в состав местного комитета РСДРП (казанская социал-демократическая группа). В Казани он руководит рабочими кружками, одновременно работая в студенческом комитете. В марте 1901 года рабочая и студенческая социал-демократические организации были разгромлены. После 9-ти месячного пребывания в казанской тюрьме Рыков был отправлен в Саратов под надзор полиции.
В Саратове Рыков участвует в попытке создания общей революционной организации социал-демократов и социал-революционеров. Но после оформления эсеровской партии эта организация распалась. 1 мая 1902 года Рыков участвует в организации первомайской демонстрации в Саратове. Демонстрация была разогнана силами полиции и черносотенцев. Сам Рыков чудом избежал расправы. Избитый и в крови, он убежал от преследовавших его жандармов.
Через некоторое время, в связи с казанским делом, из департамента полиции прибыл приговор о ссылке Рыкова в Архангельскую губернию. Алексей Иванович принимает решения перейти на нелегальное положение.
Вёл партийную работу в Саратове, Казани, Ярославле, Нижнем Новгороде, Москве, Петербурге. Неоднократно арестовывался. В 1907—1917 — кандидат в члены ЦК РСДРП(б). В 1910—1911 — в эмиграции во Франции. В августе 1911 года вернулся в Россию, был арестован в Москве и сослан в Архангельскую губернию. В 1912 году освобожден по амнистии, летом того же года вел революционную работу в Москве. В ноябре был арестован и сослан в Нарымский край, в 1915 году попытался бежать, но был задержан и возвращен к месту ссылки.