安徽中醫藥高等專科學校始建於1960年，時名“蕪湖市中醫學校”。
1960年7月，更名為“安徽省蕪湖中醫專科學校”，校址遷至下二街13號。
1962年6月，經省衛生廳0444號文件批準，學校定名為“安徽省蕪湖中醫學校”，正式納入調整後的省中等衛生學校建制，由蕪湖市衛生局主管，學制統壹定為三年。
1963年5月，學校遷入蕪湖市赭山公園東大門對面，校址邢家山7號。
1966年6月至1971年9月，因“文化大革命”動亂，學校被迫停止招生，其間，1969年1月學校下遷至廣德縣柏墊中學。
1972年，學校恢復中藥士專業招生。
1973年，恢復中醫士專業招生，推薦入學。
1977年，恢復了三年制中醫、中藥專業招生，全省統壹考試招生錄取。
1984年，機構改革，學校黨支部改設為黨總支。
1996年11月，經市衛生局蕪衛字（96）43號文件批復，學校黨總支改設為黨委。
1999年7月，經安徽省人民政府批準，學校更名為“安徽省中醫藥學校”。
2001年6月，經省政府皖政秘〔2001〕74號文件批準，學校升格為“皖南職業學院”，系專科層次的高等職業學校。
2002年3月，經教育部教發函〔2002〕59號文件批準，建立“安徽中醫藥高等專科學校”，撤銷“安徽省中醫藥學校”建制，學校實行省市***建、以市為主的辦學體制，由蕪湖市委宣傳部主管。
2002年10月，學校搬遷至城南高校園區，校址為荊山西路16號，原校區整體置換給安徽金鼎集團。
2004年6月，經蕪湖市人民政府蕪政秘〔2004〕100號文件批準，蕪湖市中醫醫院作為學校附屬醫院。