С 1920 по 1930 учился сначала в аульной, затем в школах I и II ступеней города Каркаралинска. В 1934 году окончил физико-математический факультет Казахского педагогического института имени Абая(КазПИ им. Абая) и как отличник учёбы был оставлен при институте в качестве ассистента. В дальнейшем работал старшим преподавателем, доцентом, заведующим кафедрой, деканом физико — математического факультета и заместителем директора института по научно — учебной части.
Научную деятельность О. А. Жаутыков начал в 1939 году в Ленинграде в качестве аспиранта известного математика, профессора Ленинградского государственного университета Исидора Павловича Натансона. Его научные интересы формировались под влиянием таких известных ученых — математиков, как Владимир Иванович Смирнов, Леонид Витальевич Канторович, Николай Павлович Еругин, Н. А. Артемьев и других. Но начавшаяся 22 июня 1941 г. Великая Отечественная война не позволила продолжить учёбу в аспирантуре ЛГУ.
С 1941 года началось плодотворное сотрудничество О. А. Жаутыкова с приехавшим из Казани в Алма-Ату К. П. Персидским, продолжателем научных идей по теории устойчивости выдающегося русского математика А. М. Ляпунова. Он становится одним из активных участников научного семинара по теории устойчивости, организованного К. П. Персидским, и в 1944 году успешно защищает кандидатскую диссертацию на тему «Некоторые вопросы теории устойчивости движения в смысле Ляпунова», в которой обобщены теоремы Ляпунова и Четаева о неустойчивости тривиального решения систем обыкновенных дифференциальных уравнений, а также получен ряд результатов, развивающих исследования В. С. Ведрова и относящихся к устойчивости решений так называемых присоединенных систем.
В начале 1945 года в составе делегации казахстанских ученых О. А. Жаутыков прибывает в Москву для утверждения структуры и штатов Академии наук Казахской ССР на базе существовавшего филиала Академии наук СССР. В этот период в Москве и Ленинграде он встречается с академиками И. М. Виноградовым, В. И. Смирновым, И. Г. Петровским и другими учеными для обсуждения проблем и тематики будущего Сектора математики и механики, открытие которого намечалось в рамках будущей Академии наук Казахской ССР и горячо поддерживалось этими математиками. 1 марта 1945 г. Сектор математики и механики был открыт.
Первое время О. А. Жаутыков работает старшим научным сотрудником, а с 1951 года — заведующим Сектором математики и механики. В эти годы он большое внимание уделял подготовке высококвалифицированных научных и педагогических кадров для республики. По его инициативе и активном участии в центральные научно-исследовательские учреждения и ВУЗы были направлены многие молодые выпускники ВУЗов республики, особенно КазГУ имени С. М. Кирова и КазПИ имени Абая.
Научные исследования О. А. Жаутыкова в основном связаны с теорией бесконечных систем дифференциальных уравнений. В его работах доказано существование периодических решений бесконечных систем дифференциальных уравнений и обобщена классическая теорема Пуанкаре об аналитичности решения по параметру. Развивая классические идеи Пуассона и Гамильтона — Якоби на счетные канонические системы, О. А. Жаутыков доказал справедливость принципа наименьшего действия для систем с бесконечным числом степеней свободы.
Важный вклад сделал О. А. Жаутыков в теорию дифференциальных уравнений с частными производными первого порядка. Им разработан метод, позволяющий получить представление решений в случае счетного числа независимых переменных. Развивая идею академика И. Г. Петровского, О. А. Жаутыков рассмотрел вопрос о корректности задачи Коши для бесконечных систем уравнений в частных производных первого порядка двух независимых переменных, исследовал вопрос о существовании решения задачи Коши для счетной системы уравнений в частных производных первого порядка конечного числа независимых переменных общего вида.
