Детство и юность
Грибков родился в деревне Духовое (сейчас — Лискинского района Воронежской области 23 марта 1919 года в семье крестьян Ивана Васильевича и Серафимы Кузьминичны Грибковых. Имел 6 братьев и 3 сестёр. За рождение и воспитание десятерых детей мать была впоследствии удостоена почётного звания и награждена орденом «Мать-героиня». В 1936 году окончил семь классов школы крестьянской молодёжи. В 1938 году окончил Тамбовский техникум механизации сельского хозяйства. Работал в колхозе, затем механиком машинно-тракторной станции.
Начало военной службы
В Красной Армии с 1938 года. Окончил Харьковское бронетанковое училище имени И. В. Сталина в декабре 1939 году, причём был выпущен из училища досрочно, как отличник, и сразу направлен в действующую армию на фронт советско-финской войны. Командовал танковым взводом в составе пяти танков Т-26. Воевал в районе Кандалакши. В одном из боев танк А. Грибкова был подбит, машину с контуженным экипажем эвакуировали из-под огня сослуживцы.
После подписания перемирия с Финляндией в 1940 году переведён помощником начальника штаба отдельного танкового батальона по разведке в Прибалтийского военного округа, служил в Латвии.
Великая Отечественная война
С первых дней Великой Отечественной войны в боях с гитлеровцами на Западном фронте, участвовал в трагическом оборонительном сражении в Белоруссии и в не менее драматическом Смоленском сражении, командовал танковой ротой. В составе 127-й танковой бригады участвовал в боях в Белоруссии и Смоленской области. По личному приказу командующего войсками 16-й армии генерал-майора К. К. Рокоссовского в сентябре 1941 года направлен на учёбу для прохождения ускоренного курса Военной академии имени М. В. Фрунзе, который окончил в мае 1942 года. При этом во время учёбы Грибкову пришлось принять участие в боях — в октябре 1941 года при прорыве врагом советского фронта его назначили командиром расчёта противотанкового орудия, сформированного из необученных московских ополченцев. Он обучил свой расчёт и почти месяц оборонял Москву от вражеских танков.
По окончании академии в мае 1942 года назначен в корпус офицеров — представителей Генерального штаба в войсках. Офицеры этого корпуса направлялись в армии, а также в действовавшие на особо важных направлениях корпуса и дивизии, они были независимы от командующих, при которых находились, имели право беспрепятственно пользоваться всеми средствами связи и передвижения и обязаны были докладывать в Генеральный штаб истинную обстановку, положение и состояние войск. Грибков служил представителем в 1-м танковом корпусе генерала М. Е. Катукова на Брянском фронте. С октября 1942 года — представитель в 1-м механизированном корпусе генерала М. Д. Соломатина на Калининском фронте. Прошёл вместе с корпусом всю кровопролитную операцию «Марс», сначала при прорыве немецкой обороны, затем в многодневных боях в окружении и при обратном прорыве из окружения. Когда план прорыва был подготовлен, Грибков попросил назначить его командиром танка взамен погибшего офицера, и возглавил ночную атаку на прорыв. В бою танк был подбит, но Грибков вновь отделался контузией.
