Originaire des Marais du bas Poitou, le Poitevin est sans doute le descendant des chevaux dont les restes, remontant à 5 500 ans avant notre ère, ont été trouvés aux alentours de Surgères, en Charente Maritime, et d'Échiré, dans les Deux Sèvres.
C'est à la demande du roi Henri IV de France, que l'histoire de la race va commencer, quand, en 1599, il va demander à Sully d'effectuer des travaux pour assécher les marais du Poitou. Pour y parvenir, il leur fallait un cheval adapté à cette tâche. Ils vont donc ramener le Frison, le Belge, ou Brabançon, et le Flamand, et va croiser ses derniers avec des chevaux locaux au cours du XVIème siècle.
Le besoin de chevaux de cavalerie à la fin du XVIIIème siècle, l'administration des Haras va demander aux éleveurs du Poitou d'effectuer des croisements à partir des juments locales avec des étalons d'Angleterre et de Normandie. Ensuite, au début du XIXème siècle, le Percheron sera utilisé, puis de 1860 à 1867, ce sera au tour du Boulonnais et du Breton d'influencer la race.
Mais au début des années 1990, le Poitevin, tout comme le Baudet du Poitou dont le destin est lié pour le production mulassière, va voir ses effectif s'effondrer. C'est par l'initiative des éleveurs, qui vont orienter la race vers l'attelage de loisirs, que la situation va quelques peu s'inverser. Ces derniers, qui suivent un plan d'accouplement qui permet de limiter la consanguinité, vont tenter de favoriser une rapide remontée des effectifs, en privilégiant la reproduction en race pure, parallèlement ils vont presque totalement renoncer à la production de mules, pourtant très populaire.
Possédant une section chevaline est asine, le Stud-book de la race sera créé par la société centrale d'agriculture des Deux Sèvres le 26 juin 1884, et, après plusieurs remaniements, il sera finalement fermé en 1922. Un an plus tard, c'est au tour de l'association des éleveurs des races mulassières du Poitou de voir le jour. Le déclin de la race est pour beaucoup dans sa fondation, en effet, cela à permis aux éleveurs de se regrouper et d'obtenir le soutien de l'état, par l'intermédiaire de primes et de subventions.