公元7-8世紀，馬刀盛行於東歐和中亞遊牧民族，用作劈刺武器。14世紀，馬刀上有了寬脊，用於增加刀身的重量和增大撞擊力。馬刀從此主要用於劈殺。這壹類馬刀中最具代表性的是土耳其馬刀和波斯馬刀。兩種馬刀均為直把，刀柄帶有十字橫檔，重量小，刀身彎度大，刀身長近1米。在15-16世紀的歐洲軍隊中，馬刀刀柄帶有笨重的弧形護手，馬刀全長達1.11米。
18世紀，馬刀大量裝備俄國騎兵部隊，使這種機動性很強的軍隊具有了輕便的近戰速決武器，作戰能力大大提高。隨後，馬刀在各國普遍裝備騎兵，壹些國家也用於裝備禁衛軍。
現代壹些國家仍裝備有馬刀，但大部分作為儀仗武器。