Арестован 14 декабря 1937 года по обвинению в участии в контрреволюционной антисоветской организации. 13 марта 1938 года в ходе процесса антисоветского «право-троцкистского блока» (Третий Московский процесс) приговорён к высшей мере наказания и 15 марта расстрелян и похоронен на полигоне «Коммунарка» (Московская область). Реабилитирован 4 февраля 1988 года.
Казакову и ещё двум обвиняемым-медикам — Льву Левину и Дмитрию Плетневу — вменялось в вину умерщвление председателя ОГПУ Вячеслава Менжинского, председателя ВСНХ Валериана Куйбышева и писателя Максима Горького по приказу Генриха Ягоды.
Из воспоминаний супруги Гронского: «Казакова арестовали. У Ивана был крупный разговор со Сталиным по поводу освобождения Игнатия Николаевича. Иван резко говорил со Сталиным. Звонил и Молотову, и Микояну, и Калинину — результата не добился. Казакову дали двадцать лет заключения».
