Les origines du Welsh remontent probablement aux poneys semi-sauvages, qui vivaient déjà dans les collines du Pays de Galles durant la Préhistoire.
L'environnement particulièrement difficile dans lequel il a évolué, a entraîné une sélection naturelle où seuls les plus robustes ont survécu.
Les romains ont sûrement croisé ces petits chevaux locaux avec des chevaux orientaux, principalement à l'époque de Jules César, dans la zone du Lac Bala.
Son élevage va décliner, lorsque le roi Henri VIII va décréter que seuls les chevaux de guerre méritent d'être conservés, ainsi il va donner l'ordre d'abattre tous les chevaux trop petits. Si le Welsh a survécu, c'est grâce à ceux qui se sont échappés pour se réfugier dans les collines du Pays de Galles.
Au XVIIème siècle, l'Arabe va l'influencer, mais c'est entre le XVIIIème et le XIXème siècle que le modèle moderne va apparaître, lorsqu'il va être croisé avec le Pur Sang, l'Arabe et le Barbe.
Certains ont été influencé par le Carrossier du Yorkshire, le Trotteur Norfolk, le Hackney et des chevaux ibériques.
Ses caractéristiques actuelles reposent également sur les gènes qui ont été transmis par un étalon gallois mythique, un Poney de Montagne Gallois nommé « Dyoll Starlight ».
1902 sera l'année de la création de la « Société du Poney et du Cob Welsh » (Welsh Pony and Cob Society) et du registre généalogique.
Le Welsh a vécu dans l'isolement jusque dans les années 1920, où il a commencé à être reconnu. S'il ne fait pas partie des races de chevaux les plus populaires, il est indéniable qu'il constitue un capital génétique unique, qui remonte à la Préhistoire.
Le Welsh a la particularité d'être enregistré dans cinq sections différentes. Le Poney de Montagne Gallois (A), le Poney Welsh (B), le Welsh Type Cob (C), le Welsh Cob (D) et le plus récent, le Gallois Part Bred (K).
Les prémices de cette division vont s'amorcer dans les années 1700, quand les agriculteurs locaux vont garder les chevaux les plus grands, afin qu'ils soient capables de travailler dans les fermes. Pour atteindre cet objectif, ils vont les croiser avec des chevaux de type Cob, anglais et arabes.