Descendant probable des chevaux emmenés par les Burgondes au Vème siècle dans le nord de la France en provenance de l'Allemagne, le Comtois serait issu de croisements avec des juments locales et ces chevaux.

Dès l'époque romaine, on commence à écrire sur ce cheval qui est élevé dans les montagnes de la Franche Comté. Les étalons orientaux des espagnols occupant la région lui apporteront la distinction qui caractérise toujours la race du Comtois. Principale richesse de la région, Il sera utilisé au carrosse, pour la cavalerie (dragons), pour l'artillerie, et à divers travaux de traction.

Au XVIème siècle, les éleveurs améliorèrent les chevaux amenés par les Burgondes qui devinrent célèbre. Très prisés par la Suisse et l'Italie et largement réquisitionnés lors des guerres de la révolution, du consulat, de l'empire, ces chevaux ressemblent beaucoup à ceux utilisés par Louis XIV dans ses armées ainsi qu'à ceux de Napoléon.

Le Comtois sera élevé avec d'autres races comme le Normand, le Boulonnais et le Percheron au cours du XIXème siècle. Victime de croisements variés, l'effectif de la race diminue alors dangereusement, jusqu'à être menacé d'extinction. Mais depuis 1905, un cheval plus fort avec une nette amélioration des membres a émergé en utilisant de petits étalons Ardennais bais, sans balzane, ni marque sur la tête.

Le ComtoisComtois est resté dans la même région de l'est de la France depuis son introduction initiale où les montagnes du Jura bordent la France et la Suisse. Cette région, plus connue sous le nom de Franche Comté, est de nos jours incluse dans la région de la Bourgogne Franche Comté suite à la réforme du 17 décembre 2014.

En 1910, le premier concours d'éleveurs de Comtois, qui existe toujours aujourd'hui, aura lieu à Maîche sous le nom de « National Comtois ». Neuf ans plus tard, en 1919, quelques éleveurs de la montagne constituent l'« Association Nationale du Cheval de Trait Comtois » dans la commune de Besançon et dès 1925, la sélection se poursuit dans le régime de l'indigénat.

Malgré la généralisation de la motorisation de l'après guerre, le Comtois est toujours présent dans les pâturages et c'est aujourd'hui la première race de chevaux de trait en France. Ainsi, en 2016, il y a eu 3 134 immatriculations enregistrées, soit 33% du total des immatriculations de chevaux de trait, 5 677 juments saillies, et 743 étalons en activité.