Si il a les mêmes origines que son homologue de Mongolie, le Mongol Chinois s'est différencié au fil temps, en évoluant dans un environnement qui lui est propre. Il s'agit donc d'une race aujourd'hui distincte, divisée en quatre types qui sont l'Abaga, le Baicha, l'Ujumqin et le Wushen.

Élevé dans le Nord de la Chine actuelle depuis 4 000 ou 5 000 ans avant notre ère, il serait, selon une étude, le descendant du Cheval de Przewalski. Ce qui est certains, c'est qu'il est issu de nombreuses lignées génétiquement très proche du cheval mongol de Mongolie.

Au VIIIème siècle, le cheval Mongol, était souvent croisé lorsqu'il était offert, car ce dernier n'était pas très populaire à cette époque, en effet, on lui préférait largement un cheval plus grand et plus noble, comme ceux de Perse ou d'Asie Centrale. Si l'on se réfère aux oeuvres produites sous les Yuan et les Ming, cela en sera tout autre du XIIIème siècle au XVIème siècle, où il sera intégré à la culture chinoise. C'est à ce moment que le commerce entre la Chine et la Mongolie va prendre de l'essor, dont celui du cheval Mongol, qui va souvent être échangé contre, notamment de la soie et du satin.

A partir de 1910, période qui suit l'indépendance de la Mongolie-Extérieure, le cheval Mongol va petit à petit migrer vers des provinces voisines, il est donc probable que la séparation des deux races est récente, datant sans doute d'environ 100 ans.

Resté populaire pendant de longues années, où l'effectif atteint 1,7 millions d'individus en 1982, il finira par diminuer à cause de la généralisation de la mécanisation, mais aussi par la réduction des zones de pâtures. Ainsi en 2005, le Mongol Chinois a perdu plus de la moitié de sa population, et ce déclin progresse lentement d'année en année. Symbole d'une tradition, la race a été mise sous surveillance, même si elle n'est pas considérée comme en danger d'extinction.