Твейт родился в Бергене в семье учителя. Вскоре семья переехала в Драммен около Осло, но проводила там лишь зимние месяцы, а летом отправлялась на принадлежащую ей ферму около Хардангерфьорда. При рождении Твейт был крещён как Нильс, но впоследствии, сочтя имя «недостаточно норвежским», сменил его на Гейр, а также прибавил второе «т» к фамилии для того, чтобы она произносилась более правильно. Твейт проявил способности к музыке, и учился играть на скрипке и фортепиано, а затем и писать музыку. В 1928 году он уехал за границу для продолжения обучения, учился в Лейпцигской консерватории, бывшей в то время одним из ведущих в мире музыкальных учебных заведений. Изучал композицию и фортепиано. Твейту хронически не хватало денег, и он зарабатывал на жизнь переводами. В 1930 году его произведение 12 Two-part Inventions in Lydian, Dorian and Phrygian было принято к печати издательством Breitkopf & Hartel, а на следующий год Лейпцигский симфонический оркестр исполнил его первый фортепианный концерт.
В 1932 году Твейт разочаровался в преподавании в Лейпциге и переехал в Париж, где брал частные уроки у Артура Онеггера и Эйтора Вилла-Лобоса, а затем поступил в класс к Наде Буланже. Позже он некоторое время жил в Вене, а в 1938 году через Париж вернулся в Норвегию. Его произведения имели большой успех в Осло, кроме того, он выступал также как музыкальный критик в газете Sjofartstidende. После Второй мировой войны он совершил большой концертный тур по Европе. Особенно успешным был его концерт в Париже в 1947 году.
Тем не менее, общая атмосфера после войны была в целом неблагоприятной для Твейта, так как в интеллектуальных кругах все проявления национальных чувств, составлявшие, в частности, основу его творчества, отвергались. В 1970 году сгорел его дом, при этом погибли около 300 его неопубликованных произведений, примерно 80% его творческого наследия. Композитор никогда не оправился от этого удара, больше не писал музыку, и умер в Нордхеймсунне, Хардангер, в 1981 году.
