アメリカ南北戦争の間、レインは第8ニューハンプシャー歩兵として戦った。戦後、ニューイングランド音楽院(New England Conservatory)で学び、ニューヨークのオナイダとウティカで教えた。後にロード・アイランドのウーンソケットに移り、そこで音楽店を経営し、オルガニストとして仕え、13年間、セント・ジェームズ監督教会(St. James’ Episcopal Church)の聖歌隊指揮者を務めた。その後、マサチューセッツ州モンソン、バージニア州リッチモンド、そして1896年からメリーランド州ボルチモアにもしばらく住んだ。ボルチモアでは、サンダースとステイマン(Sanders and Stayman)の音楽会社で働き、オール・セインツ・プロテスタント監督教会(All Saints Protestant Episcopal Church)で音楽主事を務めた。 ロード・アイランド州ウーンソケットのセント・ジェームズ監督教会での日曜朝の礼拝後、牧師は夜の礼拝のための讃美歌をレインに渡した。レインは讃美歌の曲(tune)にこだわらなかったので、妻が夕食を作っている間に、渡された曲の代わりに使う曲を作った。その曲は、チャールズ・L・ハッチンズ(Charles L. Hutchins)による「The Church Hymnal」に掲載され、1874年に初めて出版された。この曲は讃美歌集に残された、レイン唯一の讃美歌である。