Cymru. Enynnwyd hoffter at gerddoriaeth yn Joseph Parry gan eisteddfodau enwog a gynhelid yno, y mynych gyngherddau corawl, a chanu seindorf Cyfarthfa. Ond cyn iddo ddechrau astudio cerddoriaeth o ddifrif, ymfudodd y teulu i'r America, ac ymsefydlu yn Danville, Pennsylvania. Yn 1854, y digwyddodd hyn. Yma, bu Joseph yn gweithio yn y gweithydd haearn, gan roddi ei oriau hamdden i astudio cerddoriaeth. Ei athro oedd John Abel Jones, yntau'n un o Ferthyr. Aeth Joseph Parry ymlaen fel hyn gyda'i waith a'i gerddoriaeth, hyd 1866. Yn y cyfamser, enillasai amryw o wobrwyon am gyfansoddi cerddoriaeth yn Eisteddfod Genedlaethol Cymru. Ei gampau mwyaf oedd yn Abertawe (1863) a Llandudno (1864). Tynnwyd sylw ei gydwladwyr, yn enwedig Brinley Richards a'r "Gohebydd," a thrwy eu hymdrechion hwy, yn bennaf, sefydlwyd cronfa er mwyn cael arian iddo ddychwelyd i'r wlad hon ac astudio yn y Royal Academy of Music. Gyda'r arian a gasglwyd, gallodd Parry fynd i'r R.A.M. yn 1868, lle y bu am dair blynedd yn astudio cyfansoddi o dan Syr W. Sterndale Bennett.
Ar ddiwedd ei yrfa yn yr R.A.M., dychwelodd i'r Americal i fyw gyda'i deulu (yr oedd wedi priodi yn 1862). Ond yn 1872, gwahoddwyd ef i ddyfod yn Athro Cerddoriaeth yng Ngholeg y Brifysgol, Aberystwyth. Yma yr arhosodd hyd 1880, ac ar ôl anghydfod rhyngddo ac awdurdodau'r coleg, fe ymddiswyddodd, a symud i Abertawe, a chychwyn yno Goleg Cerddoriaeth o'r eiddo ei hun. Tra fu yn Aberystwyth llwyddodd i ennill y radd o Mus.Doc. yng Nghaergrawnt, a heblaw hyn fe gynhyrchodd opera "Blodwen," ac oratorio "Emmanuel." Yn Abertawe gwnaeth ddwy opera arall, "Virginia" ac "Arianwen," ac un oratorio arall, "Nebuchadnezzar." Er gwaethaf ei lwyddiant yn Abertawe, symudodd i Gaerdydd yn 1888, gan dderbyn y swydd o Ddarlithydd mewn Cerddoriaeth yng Ngholeg y Brifysgol yno, swydd a ddaliodd hyd ei farw ym Mhenarth yn 1903. Er na fwriadwyd ef gan natur i fod yn athro mawr, y mae'n rhyfedd meddwl bod y rhan fwyaf o gyfansoddwyr Cymreig y genhedlaeth ddilynol yn ddisgyblion i Parry. Yn eu mysg yr oedd William Davies, D. C. Williams, David Jenkins, J. T. Rees, M. W. Griffith, Dan Prothero a David Evans. Yr oedd un o'i feibion, Haydn Parry, yn gyfansoddwr dawnus. Ei brif weithiau oedd "Gwen," sef cantata ysgafn, a "Cigarette," comedi