蔣先雲於1924進入黃埔軍校第壹期,入學考試和畢業考試均名列第壹。他潛心研究古今兵法,“兩科學術,全校第壹”,與何、陳賡並稱“黃埔三傑”;校長蔣介石“愛如手足”,黨代表廖稱贊他是“軍校裏最有才華的人”,政治部主任稱他是“軍校裏的高材生”;畢業後留校擔任政治部秘書。1925年2月,在周恩來的領導下,發起成立了以* * *黨員和* * *團員為骨幹的中國青年軍人聯合會,是主要領導人之壹。同年,參加討伐陳炯明,平定軍閥楊希閔、劉震寰的叛亂。8月任國民革命軍1軍3師7團代表,不久率部參加第二次東征。1926年3月中山艦事件後,退出國民黨和1軍。
北伐戰爭開始後,他被黨任命為北伐軍總指揮部秘書兼5團團長,參加了攻打九江、南昌等戰役。1927年初,蔣介石的反革命陰謀日益暴露。他拒絕說服自己,毅然前往武漢擔任湖北工人糾察隊隊長,並提出創建黃埔學生反蔣委員會。同年5月,武漢國民政府決定繼續北伐。任國民革命軍11軍26師77團團長、黨代表,率部北上河南。5月28日,在攻克臨潁城的戰鬥中英勇犧牲。