Élevé traditionnellement dans les montagnes du même nom, entre l'Araxe et le Koura, à partir du XVIIIème siècle, le Karabakh est issu du Cheval Indigène d'Azerbaïdjan croisé avec le Turkmène, le Kabardin, le Pur Sang et l'Arabe.

Khan Ibrahim Khalil, le khan turc azéri du Karabakh de la famille Javanshir né en 1763 et décédé en 1806, possédait un élevage de quelques 3500 chevaux, dont une grande partie était de la race. Le Karabakh va continuer son essor au cours du XIXème siècle, période où les demandes seront de plus en plus fréquentes en Europe et en Russie.

Mais la race de presque 2000 ans va être stoppée dans son élan, lorsqu'elle va connaître une catastrophique diminution de ces effectifs lors de la guerre civile et ethnique qui a eu lieu dans la région au cours du XXème siècle et de la guerre du Haut Karabakh. De nos jours, il reste très peu d'individus de la race pure, certains pensent qu'il n'y en à plus aucun.