Родился в 1819 г. в армянской семье. Образование получил в Корпусе инженеров путей сообщения. В 1852 г. был зачислен майором в Апшеронский пехотный полк, с которым участвовал во многих кавказских экспедициях. В 1859 г. назначен командующим этого полка, и вскоре после того, командуя его 1-м и 4-м батальонами, он с ними двинулся к аулу Гуниб и после горячего боя овладел неприятельскими завалами у этой деревни. За это дело он был награждён орденом св. Георгия 4-й степени
С 1868 г. Тергукасов управлял средним отделом Терской области, а год спустя получил в командование 38-ю пехотную дивизию вместе с производством в генерал-лейтенанты.
Во время русско-турецкой войны 1877—1878 гг. Тергукасов оставался в Кавказском действующем корпусе и начальствовал Эриванским отрядом. 18 апреля 1877 г. он со своею дивизией занял покинутый неприятелем Баязет, оставил в крепости небольшой гарнизон и сам с остальными силами двинулся к Эрзеруму, попутно выбив 28 мая неприятеля из укрепления Алашкарт. 9 июня отряд Тергукасова, выдержал бой у с. Даяры, где был атакован значительно превосходными силами Мухтара-паши. Последний имел в виду воспользоваться отдаленностью главных сил нашего Кавказского корпуса, оставшегося под Карсом, овладеть проходом Дели-баба, преградить таким образом путь отряду Тергукасова к Эрзеруму и нанести ему решительный удар. Сражение открылось в 2 часа пополудни артиллерийским огнем с обеих сторон, от которого пострадали значительно более турки, чем русские; в 4 ? часа неприятель двинулся в атаку, направляя главные усилия против правого фланга отряда Тергукасова, но на всех пунктах был отбит; в 10 часов вечера бои прекратился без ясных результатов. Ночью Тергукасов получил приказание отступать, вызванное неудачами наших главных сил у Зевина. Несмотря на большие трудности пути и следование неприятеля по пятам, отступление было совершено в полном порядке, и турки вскоре прекратили преследование. Направляясь обратным путем к Баязету, Тергукасов подоспел к нему как раз в критический момент для находившегося там русского отряда. Вскоре по уходе Тергукасова к Эрзеруму, оставленный им в Баязете малочисленный отряд (около 1600 человек) был осаждён 25-тысячным отрядом Измаила-паши и Кази-Магомета, занявшим внешний город и обложившим крепость. Более 20 дней осажденный гарнизон мужественно отражал неприятеля. 28 июня Тергукасов подошёл к крепости и после боя принудил осаждавших к бегству. 28 октября Тергукасов вместе с генерал-лейтенантом Гейманом нанёс решительное поражение туркам при Деве-Бойну, весьма сильной с фронта и флангов горной позиции, на которой сосредоточил все свои силы Мухтар-паша. Тергукасов, соединившись с генералом Гейманом, 28 октября в 4 ? часа дня атаковал эту позицию. После жестокого боя русские овладели ключом позиций, высотой Узун-Ахмет, и вскоре за этим принудили турок к поспешному отступлению. Почти вся неприятельская артиллерия сделалась добычей русских войск. 22 июля 1878 г. Тергукасов был удостоен ордена св. Георгия 3-й степени № 572
По окончании войны Тергукасов получил в командование 2-й Кавказский корпус.
В начале сентября 1879 г. Тергукасов был назначен командующим войсками Закаспийской области, но уже в декабре вернулся к командованию своим корпусом. За короткий срок своей туркестанской деятельности Тергукасов сделал много полезного для реорганизации войск в Закаспии и серьёзно сумел упорядочить хозяйственные дела, пришедшие в упадок после неудачного Ахал-Текинского похода генерала Ломакина.
Яркую характеристику Тергукасова дал генерал М. А. Терентьев: «Тергукасов известен был на Кавказе своей безупречной честностью и ему верить можно. Начав службу инженером путей сообщения, он нашёл, что тут легко сделаться мошенником, и перешёл в строевые войска. Достигнув высокого положения, он никогда не занимался хозяйственными операциями, вроде подрядов на чужое имя, для поставки провианта и фуража в подчинённые ему части войск, как то делывали на Кавказе иные командиры…»
Тергукасов скончался 8 января 1881 г. в должности командира 2-го Кавказского армейского корпуса.
