Сын Якова Перлмуттера и Марии Соловей - эмигрантов из России. С пятилетнего возраста учился играть на скрипке, затем под влиянием музыкального педагога Джулиуса Хартта перешёл на фортепиано. В дальнейшем женился на дочери своего учителя и в 1920 г. вместе с ним основал в Хартфорде музыкальный колледж «Джулиус Хартт, Моше Паранов и присоединившиеся преподаватели» (англ. Julius Hartt, Moshe Paranov and Associated Teachers), в дальнейшем преобразованный в Школу музыки Хартта и в 1957 г. ставший одной из составных частей Хартфордского университета.
Сохранив выдающееся творческое долголетие, Паранов был связан с Хартфордом на протяжении всей своей жизни: так, в 1930 г. он дирижировал оркестром при открытии главного городского концертного зала Bushnell Memorial Hall — а в 1990 г. в качестве дирижёра участвовал в праздничном концерте к 60-летию этого события. В 1947—1953 гг. Паранов совместно со скрипачом Джорджем Хеком руководил Хартфордским симфоническим оркестром. Он привлёк к участию в музыкальной жизни Хартфорда многих выдающихся музыкантов; дружеские отношения, в частности, связывали его с такими фигурами, как Гарольд Бауэр, Эрнест Блох, Майра Хесс, Пауль Хиндемит.
