パリーはイートンでの学生時代、ジョージ・エルヴィー(George Elvey)から音楽の授業を受けた。その教育はたいへん成功し、パリーは18歳でオックスフォードから音楽の学士号を取得した。卒業後はロンドンのロイズ保険会社で3年間事務員として働いた。1878年に最初のオーケストラ作品を出版し(ピアノ協奏曲 嬰ヘ短調)、続いて幅広い種類の作品、オラトリオ、歌劇、室内楽、カンタータ、頌歌、合唱作品および独唱曲を作曲していった。1883年に、王立音楽大学(Royal College of Music)の教師になり、そして第2代の学長(1894~1918年)に昇任した。この間、彼は「The Art of Music (1893 & 1896)」や「The Music of the Seventeenth Century (1902)」を含む数冊の本を出版した。1898年にはナイトに叙せられ、1903年に准男爵となった。 ちなみに2011年4月29日にロンドンのウェストミンスター寺院で行われた、ウィリアム王子とキャサリン・ミドルトン妃(Britain’s Prince William & Catherine Middleton)の結婚式では、パリーの曲「Jerusalem」がミルトンの詩「Milton’s Blest Pair of Sirens」で歌われた。