После смерти своего отца (1453) ушёл из Новгорода в Псков, затем в Литву. Казимир IV дал ему «в кормление» Рыльск и Новгород-Северск (1454).
Московские князья в договорах с соседями (например, с Новгородом — 1456 и 1471, с Тверью — 1464 и 1485) ставили условием непринятие ими Шемякина, как изменника и изгнанника. Когда умер Иоанн — неизвестно. Из четырёх его сыновей, которых дают ему русские родословные, летописи чаще всего упоминают о младшем, Василии Шемячиче, который вернулся в подданство к Московскому князю.
