BJH komt voort uit twee in 1966 gefuseerde amateurbands en bestond uit John Lees (zang), Les Holroyd  (bas, gitaar, toetsen en zang), Stuart "Woolly" Wolstenholme (zang) en Mel Pritchard (drums en percussie). In 1967 werd de naam Barclay James Harvest aangenomen. Een jaar later verscheen de eerste single, Early Morning.

Pas in 1970 verscheen de eerste, titelloze lp. Deze plaat bevat grotendeels psychedelische rock maar kent in het 11 minuten durende slotnummer Dark now my sky ook een eerste stap in de richting van de progressieve rock. Dominant aanwezig is het geluid van de mellotron. Op het album werd de band begeleid door een klassiek orkest, waarmee ook live werd opgetreden. Op de volgende albums sloeg de band verder de richting van de progressieve rock in, waarbij ook het orkest nog op drie albums aanwezig was. In 1973 liet het label Harvest de band vallen, en moest de band op zoek naar een nieuw platencontract. In 2002 werden geremasterde versies van de Harvest-albums uitgegeven, deze lieten blijken dat de opnames van deze albums zeer professioneel is geweest. Rond dezelfde tijd werd een dubbel-cd uitgegeven met BBC-opnames uit 1972.

Ze vonden dat bij Polydor en hadden daarmee de langstlopende deal in de geschiedenis van Polydor. De eerste plaat bij Polydor was de dubbelaar live, welke als hoogtepunt uit de jaren 70 van de band kan gezien worden. Ook de opvolger Everyone Is Everybody Else gooit hoge ogen, met daarop een bewerking van de Bee Gees 1941 Mining Disaster, getiteld 1974 Mining Disaster, met in de tekst ook verwijzingen naar David Bowie.

In eigen land scoorde de band twee hits: Mockingbird (1970) en Titles (1976). Opmerkelijk aan Titles is dat John Lees de tekst van het nummer heeft opgebouwd uit de titels van bekende Beatles liedjes.

De wat plechtstatig aandoende muziek leverde de band in de pers de spotnaam "Poor man’s Moody Blues" op, een verwijzing naar de band die BJH volgens de critici zonder veel succes muzikaal zou proberen te benaderen. BJH reageerde in 1977 op de kritiek door de spotnaam als titel te gebruiken voor een nummer dat duidelijk op Nights in White Satin was geënt.

Nadat Wolstenholme in 1979 de band wegens muzikale meningsverschillen verliet werd een meer hitparade-gerichte muzikale koers ingeslagen. Het leverde de band vooral in Duitsland een enorme populariteit op, waarbij een massaal bezocht optreden in Oost-Berlijn in 1987 als hoogtepunt geldt. Na een tournee in 1997 en het floppen van River Of Dreams werd een rustperiode ingelast.

In 1999 komt het tot een breuk tussen Lees en Wolstenholme enerzijds en Holroyd en Pritchard aan de andere kant. Lees en Wolstenholme willen verder met 'nieuwere' muziek terwijl Holroyd en Pritchard de BJH-traditie willen voortzetten. Vanwege de rechten komen er dus twee groepen, die allebei de oorspronkelijke naam nog dragen: Barclay James Harvest through the eyes of John Lees en Barclay James Harvest featuring Les Holroyd. Mel Pritchard overleed in 2004. Wolstenholme maakt ook solo-albums.